DeepSeek 发布开源推理模型 DeepSeek-R1

背景

R1 的前身 DeepSeek-R1-Zero 在没有先做监督微调的情况下，直接进行大规模强化学习训练。它出现了无休止重复、可读性差和语言混杂等问题。^[2]

DeepSeek-R1 在强化学习之前加入了冷启动数据来解决这些问题。模型总参数为 6710 亿，激活 370 亿，上下文长度为 128K 个词元。^[2]

发生了什么

2025 年 1 月 20 日，深度求索发布 DeepSeek-R1，称其在数学、代码和推理任务上的表现与 OpenAI o1 相当。论文于 1 月 22 日发布在 arXiv 上。^[1][3]

关键细节

深度求索报告的成绩包括：AIME 2024 pass@1 为 79.8%，MATH-500 为 97.3%，Codeforces 为第 96.3 百分位。^[3]

代码和权重采用 MIT 许可证，深度求索允许将 API 的输出用于微调和蒸馏。^[1]

深度求索还开源了六个由 R1 蒸馏得到的稠密模型，参数规模为 1.5B、7B、8B、14B、32B 和 70B，基于 Qwen2.5 和 Llama 3 模型。深度求索称，32B 和 70B 版本与 OpenAI o1-mini 相当。^[1]

上线时的 API 价格为缓存未命中时每百万输入词元 0.55 美元，缓存命中时 0.14 美元，每百万输出词元 2.19 美元，模型名为 deepseek-reasoner。^[1]

影响

2025 年 1 月 27 日，英伟达股价下跌 17%，市值蒸发接近 6000 亿美元，是美国历史上单日市值跌幅最大的公司。美国消费者新闻与商业频道（CNBC）将这次抛售与深度求索联系起来，当时深度求索的应用已超过 ChatGPT，成为苹果美国 App Store 上下载量最高的免费应用。^[4]

R1 论文后来发表在《自然》（Nature）上（第 645 卷，第 633–638 页，2025 年）。^[3]