Mistral AI 发布 Pixtral Large 并升级 Le Chat

同一天发布的两个模型

2024 年 11 月 18 日，Mistral AI 发布 Pixtral Large：一个 1240 亿参数的开放权重（open-weight）多模态（multimodal）模型，建立在 Mistral Large 2 之上^[1]。多模态指的是模型除了文字，也能把图像作为输入。开放权重指的是训练好的参数对外发布，别人可以下载并运行，这和公开训练数据或训练代码不是一回事。参数量常被当作衡量模型规模的一个粗略指标，它并不直接说明模型在某项任务上做得好不好。

同一天还发布了 Mistral Large 24.11，改进了长上下文处理和函数调用（function calling）^[1]。长上下文处理指的是在一个很长的输入里——整份文档，或者一段很长的对话——仍然能把握前面的内容，而不是只看最近几段。函数调用指模型可以输出结构化的调用请求，去查搜索或查数据库，而不只是返回一段话。Mistral 的更新日志里，当天发布的模型记为 mistral-large-2411 和 pixtral-large-2411^[3]。

MathVista 成绩

Mistral 给出的 Pixtral Large 的 MathVista 成绩是 69.4%^[1]。MathVista 是一类把题目信息部分放在图里的基准：题面里有图表、示意图或几何图形，模型要先看懂图，再在图上做推理，光靠文字匹配答不出来。基准成绩是在某一个特定测试集上的测量，单看这个数字，并不能说明模型在别的材料上表现如何。

Le Chat 的升级

公司的对话助手 Le Chat 同时增加了几项功能：联网搜索、Canvas、图像生成和智能体（agent）^[2]。图像生成使用的是 Black Forest Labs 的 Flux Pro^[2]。Canvas 是对话旁边的一块编辑区，用户可以在里面和模型一起改一段文字或代码，而不是只来回发消息。智能体则让助手去完成一个多步骤的任务，而不只是回答一个问题。在 Le Chat 里，文档和图像由 Pixtral Large 处理^[2]，也就是用户上传文件或图片再提问的那部分。

Mistral 还说明，Le Chat 更快的响应来自推测式编辑（speculative editing）^[3]。这类做法的思路是先用一个更便宜、更快的草稿往前猜若干 token，再由主模型校验；猜对的部分可以直接采用，于是整体比每个 token 都交给大模型生成要快，猜错的地方则会被纠正过来。

这一天把什么放在了一起

这次发布把模型和产品放在了同一天。一边是 Pixtral Large，一个开放权重的多模态模型，权重带着带日期的版本号^[1][3]；另一边是 Le Chat，其中正是这个模型负责处理文档和图像，联网搜索、Canvas、图像生成和智能体也和它一同出现^[2]。对使用对话产品的人来说，看得见的变化是文档、图片和生成的图像出现在同一个对话里；对想自己运行模型的人来说，当天出现的是一组可以下载、有明确版本号可指的权重。