Mistral AI 推出 Le Chat 助手

背景

API 是程序与模型打交道的接口：开发者把文本发进去，模型把文本返回，中间没有窗口和按钮。凡是通过 API 交付的能力，面向的都是写代码的人。聊天界面则朝相反的方向——一个页面，人在里面打字、读回复，模型本身藏在一个产品名字后面。

Mistral AI 的 API 更新日志，记录的就是公司往这个面向开发者的界面上加了什么 ^[1]。

发生了什么

2024 年 2 月 26 日，这份更新日志同时列出了 Le Chat 的上线，以及 Mistral Large 和 Mistral Small 两个新模型 ^[1]。日志把 Le Chat 介绍为「全新的聊天界面 Le Chat，用于轻松地与 Mistral 模型交互」^[1]。

于是同一则公告里既有给终端用户的产品，也有给开发者的模型。打开 Le Chat 的人和调用 API 的人，在某种意义上是从两扇不同的门走进同一批模型。

关键细节

同一天，API 还加入了函数调用（function calling）与 JSON 模式，并对 Mistral Small 和 Mistral Large 开放 ^[1]。函数调用让模型可以请求运行某个具体的工具：它报出函数名、按结构化形式给出参数，而不是把请求写成一段自然语言；JSON 模式则把回复约束成合法的 JSON，也就是程序不用猜文本长什么样就能解析的格式。这两个特性的意义是同一个：让模型的输出变成软件可以稳定处理的东西。

同一则日志还引入了 `mistral-small-2402` 这个新模型 ^[1]，给两者中较小的那个在 API 里落了一个带版本号的名称。

Mistral 把 Le Chat 描述为一款测试版的「助手演示品」（assistant demonstrator），用来展示它的模型，其中包括 Mistral Large ^[2]。「演示品」这个词是有分量的：Le Chat 被摆出来的姿态不是一款做完的消费级产品，而是一种让人看到模型在对话中能做什么的方式。

还有一个细节关乎这个界面本身如何运转。Mistral 用 Mistral Large 搭建了 Le Chat 的系统级审核（moderation）^[2]。这里的审核位于系统层面，而不是藏在某一条回答里：它是包在助手外面的一层过滤，而这一层用的正是公司自己最大的模型。

影响

一则更新日志同时照顾了两类使用者。开发者拿到了结构化输出的工具——函数调用和 JSON 模式，正是把模型接进一个应用所需要的东西，还配了一个有名字的小模型可用 ^[1]。其他人则拿到一个聊天窗口 ^[1]。

用 Mistral Large 做审核，是个不大却说明问题的设计选择：用来回答问题的同一类模型，也被派去管束问题外面的那层界面 ^[2]。而把 Le Chat 称作测试版助手演示品，也定下了它上线时的调子——它是与模型交互的一种方式，而不是在宣称产品已经完工 ^[2]。