MiniMax-M3.1-Flash

是什么

MiniMax-M3.1-Flash 是 MiniMax 的一个基于稀疏混合专家（mixture of experts，MoE）结构的大语言模型。混合专家的做法是把网络拆成许多各自独立的专家子网络，每个 token 只经过其中一小部分，因此需要保存下来的参数量远大于每个 token 实际用到的计算量。模型卡给出的数字是总参数约 428B，激活 23B^[1]。它接受文本、图像和视频输入，上下文最长可达 100 万 token^[1]。权重于 2026 年 10 月 17 日发布到 Hugging Face^[2]，采用 minimax-community 许可，推理强度（reasoning effort）可以从 low 一直调到 max^[1]。

相对 M3 的变化

M3.1-Flash 更像是在 M3 基础上的修订，而不是新架构。模型卡主要讲了三处改动^[1]。

注意力方面，M3 在网络的起始三层保留了完整注意力，M3.1-Flash 取消了这一例外，全模型统一使用 MiniMax 稀疏注意力（MiniMax Sparse Attention）^[1]。稀疏注意力的意思是每个 token 只与一部分位置做比较，而不是与全部位置比较；比较的次数决定了注意力的开销，所以减少比较就直接降低了长上下文的代价。

内存方面，量化感知训练（quantization-aware training）覆盖了路由专家和注意力路径，用来降低内存占用^[1]。量化感知训练指的是训练时就用将来推理时的低精度数值，这样训练结束得到的低精度权重更接近训练真正优化的目标。把这项训练加在路由专家上对内存影响最大，因为 428B 参数的大部分就在这些专家里。

解码方面，生成时用 DSpark 投机解码（speculative decoding）替换了 M3 所用的、类似 EAGLE 的多 token 预测^[1]。投机解码的做法是先以较低成本起草若干 token，再让完整模型核验，使更多计算可以并行完成；这一改动关系到模型怎样被服务，而不改变它被训练去做什么。

报告的成绩

模型卡给出的分数包括：DeepSWE v1.1 为 73.7%，OSWorld 2.0 为 61.7，CyberGym 为 82.2，BankerToolBench 为 76.2^[1]；Terminal Bench 4.0 为 38.1，LOCA-Bench 256K 为 60.3，NL2Repo-Bench 为 61.2^[1]；HLE（不使用工具）为 43.4，CharXiv RQ 为 82.5^[1]；GDP.pdf AA 为 20.8，Agents' Last Exam 为 29.6^[1]。

这些项目测的东西差别很大：有的看长上下文中的处理，有的看能不能在终端或桌面环境里端到端把任务做完，有的看在没有工具帮助时能不能回答研究级的问题。正因为差别大，这些数字应当逐项看，而不是拼成一个总排名。

模型卡上的一处不一致

模型卡的 safetensors 元数据写的是 220B 参数，与卡面文字给出的约 428B 总参数对不上^[1]。在这处差异澄清之前，两个数字不宜混用。

在系列中的位置

整体看，这次发布的是一次迭代：同样的稀疏混合专家家族，同样的多模态输入，但取消了保留完整注意力的例外，把量化感知训练扩展到专家和注意力路径，并换用了新的投机解码方案。对使用者来说最实际的一点，是 100 万 token 上下文^[1]和全程稀疏的注意力^[1]放在一起——长输入不必再付出完整注意力那样的开销。