Step 3

是什么 Step 3 是阶跃星辰（StepFun）推出的多模态推理模型。模型总参数为 3210 亿，其中语言模型部分为 3160 亿，每个 token（模型处理文本的基本单位）激活 380 亿参数^[1]。它采用混合专家（MoE）架构，即每次只有网络的一部分参与计算。

由来 2025 年 7 月，阶跃星辰在世界人工智能大会（WAIC）上发布 Step 3^[3]。系统技术报告《Step-3 is Large yet Affordable》于 2025 年 7 月 25 日发布在 arXiv 上^[3]。代码和权重采用 Apache 2.0 许可证^[1]。中文维基百科将开源日期记为 2025 年 7 月 31 日^[5]。

在 WAIC 上，阶跃星辰还与华为、壁仞科技、摩尔线程和燧原科技成立了模型与芯片生态创新联盟，目标是针对国产芯片优化 Step 3^[4]。

主要特点 模型共 61 层，其中 5 层为稠密层。隐藏维度为 7168。每个 MoE 层有 48 个专家，每个 token 选取其中 3 个，另有 1 个所有 token 都会经过的共享专家^[1]。

Step 3 采用多矩阵分解注意力（MFA），并与注意力-前馈网络解耦（AFD）共同设计，以降低解码成本。解码是模型逐个生成输出 token 的过程^[1]。解耦的思路是把注意力部分和前馈网络部分的计算拆分到不同硬件上，使两者可以按各自的成本特点进行调度。

模型的最大上下文长度为 65,536 个 token^[1]。

阶跃星辰报告称，在每个 GPU 上，Step 3 的解码吞吐量最高可达每秒 4,039 个 token，且满足每输出一个 token 不超过 50 毫秒的限制。测试条件为 4K 上下文、FP8 精度，未使用多 token 预测（MTP）。在相同设置下，DeepSeek-V3 在 Hopper GPU 上的吞吐量为每秒 2,324 个 token，Step 3 约为其 1.7 倍^[3]。

权重以 bf16 和 block-FP8 两种格式发布在 Hugging Face 和 ModelScope 上^[1]。

模型可通过阶跃星辰开放平台使用，该平台提供兼容 OpenAI 和兼容 Anthropic 的 API。模型可以用 vLLM 和 SGLang 两种常见的开源推理引擎部署^[1][2]。

在发展中的位置 Step 3 以 Apache 2.0 许可证开源，并公布了系统技术报告说明其设计选择；与国产芯片厂商的合作，则把优化工作延伸到了国产硬件上。