腾讯混元 Turbo 在腾讯云上线

背景

混元 Turbo 是混元系列的新一代模型，腾讯在宣传其效率提升时，以早期混元模型作为对比基准^[1]。这次发布面向希望通过云服务使用大语言模型的企业和开发者。

云服务模式下，模型运行在服务商的服务器上，用户按调用量付费。效率指标通常包括训练效率、推理效率和解码速度，这也是本次公告采用的口径，其中解码速度指模型输出文字的快慢。

发生了什么

2024 年 9 月 5 日，TMTPost 报道腾讯推出新一代混元 Turbo 语言模型，并在腾讯云上线^[1]。这一消息由腾讯副总裁兼云与智慧产业事业群 COO Qiu Yuepeng 宣布^[1]。企业和开发者可以直接通过腾讯云集成该模型^[1]。

关键细节

腾讯称，与早期混元模型相比，训练效率提升 108%，推理效率提升 100%，解码速度提升 20%^[1]。推理成本降低 50%，输入与输出价格都比前代减半^[1]。腾讯还称该模型在多项基准测试上与 GPT-4o 持平^[1]。

这些都是腾讯的自报数字，来源将其作为说法报道，并未给出独立的测试结果。

影响

对开发者而言，报道中最直接的变化是成本。价格和推理成本减半意味着，在相同用量下，基于该模型构建的应用运行成本会更低^[1]。通过腾讯云提供，也意味着该模型以云服务的形式对外开放，而不是作为可下载的模型文件发布。

基准测试只反映特定测试集上的表现，与竞争对手的对比结果仍需独立评测来验证。对使用者而言，技术指标最终要转化为成本和速度，才会影响一个模型能被多少应用采用。