文心大模型 3.5

是什么

文心大模型 3.5（ERNIE 3.5）是中国搜索引擎公司百度推出的大语言模型，于 2023 年 6 月下旬公布。它最初并不是一个独立产品：百度把它定位为文心一言（ERNIE Bot）背后的升级模型。在此之前，文心一言一直处于邀请制测试阶段，从 3 月起由上一代文心 3.0 驱动。^[1][2]

名字沿用了百度文心（ERNIE）系列，这一系列主要面向中文任务，并被整合进百度的搜索与云产品中。

登场方式

升级先体现在聊天机器人上。2023 年 6 月 21 日，百度发布文心一言 2.1.0 版本，新增 ChatFile 插件，并改进了数学与创意写作能力，这些提升被归功于文心 3.5。^[1] ChatFile 的作用是让用户把一份长文档交给模型，由它直接给出摘要，而不必逐段处理。

这一版本同时引入了插件架构。最早的两个插件是百度搜索插件和 ChatFile 插件：前者用于获取最新信息，而不只依赖模型训练时学到的东西；后者用于长文档摘要。百度表示计划把插件体系开放给第三方。^[1]

百度的说法

百度称文心 3.5 在综合能力评分上超过了 ChatGPT（即 GPT-3.5），并在若干中文能力上胜过 GPT-4。公司援引的是国家媒体《中国科学报》（China Science Daily）使用 AGIEval 与 C-Eval 两项基准所做的测试。^[1]

这些成绩是百度自己对比较结果的陈述，描述的是总体得分与中文任务表现，而非某个单一的排名。这类基准测试用一套固定题目衡量模型，能说明模型在应试型问题上的表现，但对它在开放式日常使用中的行为说明有限。^[1]

效率

除了能力，百度也把这次发布描述为一次工程上的推进。公司报告称，相比上一版本，训练吞吐量约提升到 2 倍，推理吞吐量提升到 17 倍。^[1] 通俗地说，训练吞吐量指模型在构建过程中单位时间内能处理多少数据；推理吞吐量指模型部署后单位时间内能服务多少次请求。

百度表示，训练与推理效率的提升将使其后续迭代更快、成本更低。^[2] 这在商业上很关键：聊天机器人每回答一次都要花钱，因此服务效率直接决定厂商能提供什么、以什么价格提供。

在模型序列中的位置

文心 3.5 是一个中间站，而非终点。接替它的是文心 4.0，于 2023 年 10 月 17 日发布。^[5] 2023 年 11 月文心 4.0 付费方案启动时，文心一言基于文心 3.5 的基础版本仍然免费——由此形成两层结构：旧模型承载免费用户，新模型承载订阅服务。^[3]

新版本发布后，这个模型仍向开发者开放。截至 2024 年 4 月，它通过百度的千帆（ModelBuilder）平台与文心 4.0 一同提供；百度称该平台汇集了不同规模的多达 77 个模型，其中包括文心 3.5 与 4.0。^[4]

意义

文心 3.5 标志着百度把自家聊天机器人从封闭测试推向大范围可用，并给出了一组明确的功能——插件、文档摘要、实时搜索；同时开始公开主张其模型在可测量的任务上与 OpenAI 相当甚至更好。^[1][2] 它也反映出当时这一领域的节奏：大约四个月内公司就发布了后继型号，上一代被下放到免费层。^[3][5]