腾讯混元 Hy3

是什么

混元 Hy3（Hunyuan Hy3）是腾讯推出的开放权重模型，将快思考与慢思考结合在一起。腾讯于 2026 年 7 月 6 日发布该模型。^[3] 它是一个混合专家（MoE，mixture of experts）模型，总参数为 2950 亿，每个词元激活 210 亿参数。^[1] 上下文长度最高可达 256K 词元。^[1] Hy3 是 HY 2.0 的后继模型，后者的总参数为 4060 亿。^[1][3]

由来

2026 年 4 月 23 日，腾讯首先开源了 Hy3 的预览版。预览版以腾讯 Hy 社区许可协议发布，正式版的 Hy3 则采用 Apache 2.0 许可证发布，并提供 FP8 版本。^[1][2] Apache 2.0 是一种宽松的开源许可证，允许使用、修改和再发布。

预览版的基础模型在未经指令微调的情况下，MMLU 得分 87.42，MMLU-Pro 得分 65.76，GSM8K 得分 95.37，C-Eval 得分 89.80。^[2]

主要特点

模型采用 192 个专家，并使用 top-8 路由，即对每个词元，路由器选择其中 8 个专家参与计算；模型共 80 层。^[1] 模型还包含一个 38 亿参数的多词元预测（multi-token prediction）层。多词元预测让模型同时预测后续的多个词元，可用于加速生成。^[1] 注意力机制使用 64 个头，并采用分组查询注意力，设 8 个键值头；词表包含 120832 个词元。^[1]

推理强度可设为 no_think（默认）、low 或 high。^[1] 用户可以据此在直接回答与对较难问题进行长时间推理之间做出选择。

腾讯公布的成绩为：GPQA Diamond 90.4 分，SWE-bench Verified 78 分，SWE-bench Pro 57.9 分，Terminal-bench 2.1 71.7 分，SWE-bench Multilingual 75.8 分。^[1] 在由 270 位专家参与的盲评中，Hy3 的平均分为 2.67（满分 4 分），GLM-5.1 为 2.51 分。^[1] 腾讯的内部评估显示，幻觉率由 12.5% 降至 5.4%，多轮对话中的问题率由 17.4% 降至 7.9%。^[1]

腾讯云 TokenHub 上的 API 定价为：每百万输入词元 1 元，每百万输出词元 4 元，每百万缓存输入词元 0.25 元。^[3] Hy3 已接入 WorkBuddy 和 CodeBuddy、元宝、Marvis 以及 ima。^[3]

在发展中的位置

Hy3 是姚顺雨（Yao Shunyu）领导腾讯大模型（LLM）相关部门后推出的第一款重要模型。^[4] 腾讯自己的基准测试显示，它的表现接近 GLM-5.2、DeepSeek V4 Pro 等中等规模模型。^[4] 此后不到两个月，规模更大的 Hy4 预览版随即发布。