NVIDIA 发布 Llama Nemotron 开放推理模型

背景

开放模型指权重公开、他人可以下载和改造的模型；推理模型（reasoning model）则会在回答前分步骤处理问题。NVIDIA 以生产训练和运行 AI 系统的芯片闻名，此前已在 Meta 的 Llama 3 模型基础上构建自己的模型系列。2025 年 3 月，它把成果作为面向开发者和企业的产品线推出。^[2]

发生了什么

2025 年 3 月 18 日，NVIDIA 在 GTC 大会上发布 Llama Nemotron 开放推理模型系列。该系列分 Nano、Super、Ultra 三种规格，并以 NIM 微服务（NIM microservices）的形式提供。NIM 微服务是把模型打包好、便于部署到企业自有基础设施上的版本。^[1] 发布的重点是智能体（agentic）AI 平台，即能借助工具完成多步骤任务的系统。^[1]

关键细节

NVIDIA 表示，经过后训练，模型准确率最多提高 20%，推理速度比其他开放推理模型最多快 5 倍。这两个数字都来自 NVIDIA 自己的发布公告。^[1]

发布时点名了几家大型合作伙伴。微软把这些模型加入 Azure AI Foundry，这是其用于构建 AI 应用的平台；SAP 则在其 Joule 助手中使用这些模型，Joule 是内置于 SAP 企业软件中的 AI 助手。^[1] NVIDIA 还表示，将以开放方式发布相关工具、数据集和后训练技术，方便他人复现或扩展这项工作。^[1]

模型的推理开关可以在推理时打开或关闭，「推理时」指模型被使用、而不是被训练的时刻。这样，同一个模型既能快速回答，也能进行较慢但更仔细的推理。^[2] 描述这项工作的技术报告也发布在 arXiv 上。^[2]

影响

这次发布让 NVIDIA 的开放推理模型不只停留在研究场景，而是通过云平台和企业软件进入企业客户的视野。对开发者而言，这次发布提供了一组可公开获取、规格不同的模型，连同 NVIDIA 承诺公开的工具和数据集，可用于在自家产品中加入推理功能。^[1][2] 此后 NVIDIA 在 Nemotron 系列中的发布，也延续了同时公开权重与训练数据的做法。