字节跳动 Seed 发布深度思考模型 Seed-Thinking-v1.5

背景

推理模型（reasoning model）是一类经过训练、在回答前会分步推演问题的语言模型。这类模型通常用数学竞赛、编程和科学问题来测试，因为这些题的答案可以核对。AIME 是一套难度较高的高中数学竞赛题，被广泛用于这类测试。

发生了什么

2025 年 4 月 10 日，字节跳动 Seed 团队把推理模型 Seed-Thinking-v1.5 的技术报告发布到 arXiv。该报告也用了 Seed1.5-Thinking 这一标题。^[1]

该模型采用混合专家（mixture-of-experts）设计，每次处理输入时激活 200 亿参数，总参数量为 2000 亿。^[1]

关键成绩

报告给出的成绩为：AIME 2024 得分 86.7，Codeforces 得分 55.0，GPQA 得分 77.3。Codeforces 是一个编程竞赛平台，GPQA 是一组难度较高的科学问答题。^[1]

在非推理类任务上，它的胜率比 DeepSeek R1 高出 8%。^[1] 在 AIME 2025 上，它得分 74.0，DeepSeek R1 为 65.0，OpenAI o3-mini 为 86.5。^[2]

基准测试

作者认为 AIME 2024 已经不能很好地区分最强的模型，因此团队自建了一套更难的内部基准，称为 BeyondAIME。^[1]

混合专家模型中，网络包含许多专家子网络，由路由机制为每个输入挑选其中一部分。总参数量描述存储的模型规模，激活参数量则描述处理单个输入时实际参与计算的部分。这类推理模型通常在答案可以核对的问题上用强化学习训练，因此数学和编程测试很常见。

影响

报告在 AIME 2025 上把它的成绩与 DeepSeek R1 和 OpenAI o3-mini 直接并列，读者可以在同一套题上看到它的位置。