发布时间:2024-08-19 07:52:26 来源: sp20240819
0.0008元/千Tokens!近日,豆包主力大模型在企业市场的定价着实让行业震惊。
大的使用量,才能打磨出好模型,也能大幅降低模型推理的单位成本;成本下降则会吸引更多的企业使用。不出意外,豆包大模型靠低价及大使用量,将迎来“滚雪球”式优势。
降价上百倍的大模型,想请企业撒欢用
豆包大模型主要包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等九款模型。
豆包大模型不仅仅是一个有多模态能力的模型家族,其价格更让行业震惊。豆包主力模型的推理输入价格只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字。而市面上同规格模型的定价一般为0.12元/千Tokens,是豆包模型价格的150倍。
如果形象点描述,根据火山引擎公布的价格计算,1元钱就能买到豆包主力模型的125万Tokens,大约是200万个汉字,相当于三本《三国演义》。
火山引擎总裁谭待表示,大模型从以分计价到以厘计价,将助力企业以更低成本加速业务创新。“今天很多客户都想去做大模型的尝试,但因为创新的事情风险很高,特别是AI领域,面临很多不确定性,我们必须要把试错的成本降得非常低,才能够让大家广泛地用起来。”
用量大,滚雪球式优势建立
豆包大模型的价格优势离不开前期的使用经验以及技术的“加持”。在技术上,豆包使用了非常多的优化手段来降低成本,例如在不同负载的推理下进行混合调度来降低成本。
“大的使用量,才能打磨出好模型,也能大幅降低模型推理的单位成本。”谭待表示,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。
据悉,字节跳动基于豆包大模型打造了AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”,以及星绘、即梦等AI创作工具,并把大模型接入抖音、番茄小说、飞书、巨量引擎等50余个业务上,用以提升效率和优化产品体验。
招商银行、海底捞火锅、超级猩猩、猎聘等企业,已在“扣子”上搭建了智能体。复旦大学、浙江大学等名校也为课程和实验搭建AI“助教”。“豆包”上已有超过800万个智能体被创建,月度活跃用户达到2600万。这些使用量都为豆包大模型提供了宝贵的打磨经验。
服务广,极致弹性实现最佳效果和性价比
一直以来,不少传统企业也想用大模型进行业务管理及创新,但市面上模型种类众多、厂商众多,难以准确地做出选择。再加上算力成本、数据成本,缺乏人才和经验,这些陈伟企业AI创新面临的难点。
而火山引擎提供全栈模型服务,让企业AI应用更容易落地。最新升级的火山方舟MaaS平台,不仅提供了搜索插件、内容插件和知识库插件,还集成了AI应用开发平台“扣子”专业版,将大模型的基础能力转化为学习、工作的生产力。
火山引擎还具有充沛算力和极致弹性,分钟级完成千卡扩缩容,有效支撑突发流量和业务高峰,为企业降低成本。
如今,越来越多的企业选择和豆包大模型合作,火山引擎算法团队也将为豆包大模型的企业客户提供支持,分享字节业务的AI实践经验,与客户共同探索企业场景的大模型应用落地。
谭待表示,大模型技术变革的“马拉松”才刚刚起跑,市场还在非常早期阶段。豆包大模型的超低定价,并不是要打价格战,而是希望推动大模型应用更加广泛的落地开花。
“技术发展能够大幅优化大模型的推理成本,使用大模型的客户越多,成本优化空间就越大。”谭待相信,更便宜的大模型,会让更多创新想法得到实践,最终受益的将是整个行业。(完)
【编辑:张子怡】