字节跳动 Seed 以 Apache-2.0 许可开源 Seed-OSS-36B

发布

2025 年 8 月 20 日，字节跳动 Seed 团队在 Hugging Face 上发布了三个模型：Seed-OSS-36B-Base、Seed-OSS-36B-Base-woSyn 和 Seed-OSS-36B-Instruct。^[1] Hugging Face 是研究者和开发者发布、下载开源模型的平台。

规模与训练

模型参数为 360 亿（36B），训练数据量为 12 万亿（12T）个 token。^[1] 其原生上下文长度最长为 512K 个 token，即模型一次能接收的文本量。^[1]

许可

模型以 Apache-2.0 许可证发布，允许使用、修改和再分发，但需保留许可声明。^[1]

功能

用户可以设置思考预算（thinking budget），限制模型推理的长度。^[1]

成绩

Instruct 版本在 AIME24（一组难度较高的数学竞赛题）上得分 91.7，在 SWE-bench Verified（OpenHands）上得分 56。SWE-bench Verified 用于测试模型能否解决开源软件项目中的真实问题，OpenHands 是运行该测试所用的智能体框架。^[1]

Base-woSyn

Base-woSyn 版本在预训练时没有使用合成的指令数据。它与主基础模型同时发布。^[1]

较长的上下文意味着模型可以一次读入很长的文档或大型代码库，但运行时也需要更多内存，因此上下文长度通常与参数量分开报告。思考预算是一项实用的控制：运行模型的人可以决定每次请求允许多少推理。

影响

这次发布为开发者提供了一个长上下文的大型开源模型，许可宽松。开发者可以从 Hugging Face 下载，直接运行和测试这些模型。