火山引擎发布豆包大模型家族并大幅降价

背景

火山引擎是字节跳动旗下的云计算部门。基于大模型开发产品的企业，按模型处理的文本量付费，计量单位叫作 token（可以理解为一个词或词的一部分）。因此大模型的价格通常按每千个或每百万个 token 计算，单价一降，企业能负担的用量就会增加。

发生了什么

2024 年 5 月 15 日，火山引擎在北京的一场活动中发布了豆包大模型家族。^[1] 火山引擎总裁谭待（Tan Dai）介绍了九款模型，其中包括通用模型的 Pro 版和 Lite 版，以及语音识别、语音合成和文生图模型。^[1]

关键细节

主力模型的价格为每千个输入（prompt）token 0.0008 元。财新称，这一价格比 GPT-4 便宜 99.8%。^[2] 谭待表示，同类企业模型的平均价格为每千个 token 0.12 元。^[1]

豆包 Pro 支持最长 128,000 个 token 的上下文窗口。上下文窗口是模型一次能够同时考虑的文本长度，窗口越长，就越能处理篇幅较大的材料。^[2]

在发布时，豆包 App 的下载量已超过 1 亿次，月活跃用户超过 2600 万。^[2]

企业选择模型时，通常会比较能力、速度和价格。对于发送大量请求的企业来说，单价的小幅变化就会让月度账单明显不同，因此大幅降价即使在企业尚未选定模型时也会受到关注。

128,000 个 token 的窗口足以在一次请求中容纳一份长篇报告，因此上下文长度常被用来比较不同模型。

影响

媒体把这次发布称为中国企业大模型市场价格战的开端。^[3] 把模型价格降到如此低的水平，意味着企业在成本成为限制之前，可以试验更多的应用场景。