百度将文心一言升级至文心大模型 3.5

背景

发布时，文心一言（ERNIE Bot）仍处于邀请制测试阶段，访问范围有限^[2]。邀请制测试意味着用户需要邀请或批准才能试用，企业常用这种方式控制负载并收集反馈。文心大模型3.5建立在百度此前的文心大模型3.0之上，延续了百度的模型路线^[2]。

发生了什么

2023年6月下旬，百度发布文心大模型3.5^[1]。在正式发布前，该模型已经从6月21日的2.1.0版本开始为文心一言的测试功能提供支持，因此部分用户已提前接触到它^[1]。测试功能是产品功能的早期版本，之后仍可能调整。

关键细节

百度引用 China Science Daily 一项使用 AGIEval 和 C-Eval 的研究，称文心大模型3.5在综合能力上超过ChatGPT，并在多项中文能力上超过GPT-4^[1]。这类评测基准用统一题目比较模型表现，百度的说法是用评测结果来支持自己的比较。百度还称其推理吞吐量（inference throughput）提高17倍，训练吞吐量（training throughput）提高约2倍^[1]。推理吞吐量指单位时间内模型能产生多少输出，训练吞吐量指模型训练的速度；吞吐量更高，意味着在相同硬件时间下可能完成更多输出或更快进行实验。文心大模型3.5引入插件架构（plugin architecture），包含百度搜索插件和 ChatFile 文档插件^[1]。插件架构让模型可以调用外部工具或数据源，从而扩展内置能力之外的功能。百度计划将插件架构开放给第三方^[1]，也就是让外部开发者接入自己的工具或服务。

影响

这些比较把文心大模型3.5直接放在ChatGPT和GPT-4的对照中，尤其是在中文任务上；相关数据来自百度引用的评测^[1]。由于文心一言当时仍采用邀请制测试，普通用户能直接使用的范围仍然有限^[2]。计划开放插件架构则表明，百度希望让外部开发者接入文心大模型3.5的插件能力^[1]。对用户而言，评测说法、吞吐量说法和插件能力共同把文心大模型3.5呈现为一次模型升级，也是一个可连接外部功能的平台。