科大讯飞发布基于全国产算力训练的讯飞星火 V3.5

背景

训练一个大语言模型需要极大规模的算力，这些算力来自成百上千个加速芯片在数周甚至数月里协同工作。因此，模型在什么样的硬件和软件栈上训练出来，和模型结构本身一样重要。「全国产化算力平台」指的是整个训练过程不依赖进口加速芯片及其配套软件。科大讯飞此前一直在推进星火系列模型，V3.5 被介绍为训练栈实现完全国产化的那一版。

发布了什么

2024 年 1 月 30 日，科大讯飞发布讯飞星火 V3.5，称其是首个在完全国产化的飞星一号平台上训练出来的星火模型^[1]。公司表示新版本在 7 个方面做了升级：语言理解、文本生成、知识问答、逻辑推理、数学、代码和多模态能力^[1]。同一场发布会上还推出了两个模型：一个星火语音模型，以及一个名为 Spark-13B 的开源模型^[1]。

对比数据

科大讯飞称，星火 V3.5 在语言理解和数学上超过 GPT-4 Turbo，代码能力达到 GPT-4 Turbo 的 96%^[1]；多模态理解能力达到 GPT-4V 的 91%^[1]。这些说法给出的是相对表现，不是绝对分数。TechNode 指出，科大讯飞没有说明这些对比所依据的评测标准^[2]——用了哪些测试集、提示词怎么写、结果如何计分。这让外界很难复核这些数字，它们应当被理解为公司对自己模型的评估，而不是经过独立验证的排名。

语音模型与开源版本

语音模型也有自己的指标。科大讯飞称，星火语音模型在前 37 种主流语言的语音识别上超过 OpenAI 的 Whisper V3^[1]，语音合成的真人相似度在前 40 种语言上超过 83%^[1]。语音识别是把音频转成文字，语音合成则相反，是由文字生成语音，「真人相似度」衡量的是合成声音与真人录音的接近程度。

Spark-13B 被介绍为飞星一号平台上的首个开源模型^[1]。科大讯飞称它在典型场景中比同尺寸的其他开源模型高出 20% 以上^[1]。「同尺寸」指的是参数量大致相当的模型，这里的 13B 即约 130 亿参数——参数是网络内部在训练中确定的可调数值，在很大程度上决定了一个模型需要多少算力。

它说明了什么

科大讯飞表示，预计在 2024 年上半年追上 GPT-4 的最好水平^[1]。因此这次发布与其说是一款完成品，不如说是既定时间表上的一步，而国产训练平台被当作让这个时间表可行的关键。对外界来说，这次发布里最容易验证的部分恰恰是可以直接上手试的：一个开源的 130 亿参数模型规模不大，不需要特殊权限就能运行和评测，语音模型也可以用普通音频来测试。相比之下，与 GPT-4 Turbo、GPT-4V 的对比仍然只是公司自己给出的数字。