TellWorldAI 世界档案
问档案English

首页›专题›开源

BERT

BERT 是 Google 的双向语言模型,通过遮盖部分词再还原的方式预训练,微调后在问答和语言理解基准上刷新成绩,并被用于 Google 搜索。

RoseTTAFold

RoseTTAFold 是贝克实验室 2021 年发表的三轨神经网络蛋白质结构预测方法,在 CASP14 上精度接近 AlphaFold2,能仅凭序列预测蛋白质复合物,代码公开并配有公共服务器。

Stable Diffusion(v1)

Stability AI 于 2022 年 8 月 22 日公开发布的开放权重文生图模型,基于潜扩散,可在消费级显卡上运行,让本地生成图像变得容易获得。

LLaMA

Meta AI 于 2023 年 2 月发布的一系列基础语言模型,有 7B 到 65B 四种规模,只用公开数据训练;其中 13B 版本在多数基准测试上被报告优于 GPT-3。

ESM3

ESM3 是 EvolutionaryScale 于 2024 年 6 月发布的蛋白质生成模型,能同时依据序列、结构和功能进行推理,并生成了与已知荧光蛋白相距约 5 亿年演化距离的新蛋白。

Llama 3.1(含 405B)

Llama 3.1 于 2024 年 7 月 23 日发布,在 Llama 3 系列中加入了 4050 亿参数的模型,并把上下文扩展到 12.8 万个词元。Meta 称,这是目前最强、可公开获取的基础模型。

DeepSeek-V3

DeepSeek-V3 是深度求索(DeepSeek)于 2024 年 12 月发布的开放权重模型,采用混合专家(mixture-of-experts)架构,总参数 6710 亿,每个词元激活 370 亿。

DeepSeek-R1 推理模型

DeepSeek-R1 是深度求索(DeepSeek)于 2025 年 1 月 20 日发布的开放权重推理模型,以 DeepSeek-V3-Base 为基础,经强化学习训练,采用允许商业使用和蒸馏的 MIT 许可证。

NVIDIA Isaac GR00T N1

Isaac GR00T N1 是 NVIDIA 于 2025 年 3 月 18 日发布的人形机器人开放基础模型。它可针对具体机器人或任务再做后训练,并把负责规划的模型与负责快速运动的模型组合在一起。

通义千问 Qwen3

通义千问 Qwen3 是阿里巴巴于 2025 年 4 月 29 日以 Apache 2.0 许可证发布的模型系列,主要特点是混合思考模式,同一模型既可逐步推理,也可直接作答。

Kimi K2

Kimi K2 是月之暗面于 2025 年 7 月发布的开放权重混合专家语言模型,总参数 1 万亿,每个词元激活 320 亿,上下文窗口 128K 个词元。

DeepSeek-V4(V4-Pro 与 V4-Flash)

DeepSeek-V4 包括 V4-Pro 与 V4-Flash 两款混合专家模型,2026 年 4 月 24 日以预览版发布,支持 100 万词元上下文。

Kimi K3

Kimi K3 是月之暗面发布的 2.8 万亿参数开放权重多模态模型,2026 年 7 月 16 日发布,7 月 27 日公开权重,适用 Kimi K3 许可证。

K2 Horizon 模型集群

K2 Horizon 是基础模型研究院(IFM)于 2026 年 9 月发布的一系列六个开放语言模型,权重、代码、训练数据和训练配方一并以 Apache 2.0 许可公开。

Jais-3-375B-A23B(阿拉伯语旗舰混合专家模型)

Jais-3-375B-A23B 是基础模型研究所(IFM)推出的阿拉伯语旗舰开源混合专家模型:总参数 3750 亿、每 token 激活 230 亿,上下文窗口 51.2 万 token,权重以 Apache 2.0 发布。

GPT-1(初代 GPT)

GPT-1 是 OpenAI 的第一代生成式预训练 Transformer,发布于 2018年6月。它表明,先用无标注文本预训练、再针对具体任务微调的同一个语言模型,能够改进多项语言任务的结果。

GPT-2

GPT-2 是 OpenAI 于2019年2月宣布的大型语言模型,最大版本有 15 亿参数。OpenAI 起初没有公开完整模型,随后分阶段发布,直到2019年11月才发布完整版本。

文心 ERNIE 1.0

百度于 2019 年 3 月发布的第一代 ERNIE 预训练语言模型,在 BERT 的掩码预训练基础上加入实体级和短语级掩码,并在五项中文 NLP 任务上报告了当时最好的成绩。

T5(文本到文本迁移 Transformer)

T5 是 Google 的 Transformer 语言模型系列,把所有语言任务统一成「文本输入、文本输出」。其 110 亿参数版本在多项基准上取得当时最好成绩,代码、预训练模型与 C4 数据集均公开。

CLIP(对比语言-图像预训练)

OpenAI 于 2021 年发布的图像-文本模型,用约 4 亿对图文数据训练,靠把图像与文字提示逐一比对来完成分类,不需要针对具体任务的训练。

GPT-J-6B

GPT-J-6B 是 EleutherAI 于 2021 年 6 月发布的约 60 亿参数开源语言模型,以 Apache 2.0 许可开放,公开基准成绩接近 GPT-3 Curie,是当时最大的开源类 GPT-3 模型。

GPT-NeoX-20B

GPT-NeoX-20B 是 EleutherAI 于 2022 年 2 月发布的 200 亿参数开放语言模型,权重以 Apache 2.0 协议公开,训练与评测代码一并开源。

BLOOM

BLOOM是BigScience项目于2022年7月12日发布的1760亿参数开放多语言大语言模型,权重依据负责任使用的RAIL许可证提供。

Whisper(语音识别模型)

Whisper 是 OpenAI 开源的语音识别系统,2022 年 9 月发布,训练数据达 68 万小时,可转写多语言语音并翻译成英文。

GLM-130B 双语大模型

GLM-130B 是清华大学 KEG 实验室与智谱 AI 联合发布的 1300 亿参数开源中英双语稠密语言模型,目标是在千亿参数规模上做出一个不输 GPT-3 的开放模型。

ChatGLM-6B 对话模型

智谱 AI 与清华 KEG 在 2023 年发布的开源双语对话模型,参数约 62 亿,小到可在一张消费级显卡上跑起来,权重对研究完全开放。

Segment Anything 分割一切模型(SAM)

Segment Anything 模型(SAM)是 Meta AI 于 2023 年 4 月发布的可提示图像分割模型。给它一个点、框或掩码,它就能圈出对应的物体。

Llama 2

Meta 于 2023 年 7 月发布的开源权重语言模型系列,有 7B、13B、70B 三种规模,各含对话微调版本 Llama 2-Chat,并以允许研究和商业使用的自定义许可证发行。

SDXL(Stable Diffusion XL)

SDXL 是 Stability AI 于 2023 年 7 月发布的开源文生图扩散模型:35 亿参数的基础模型加一个精修阶段,原生生成 1024×1024 图像;蒸馏版 SDXL Turbo 把生成压缩到一步。

通义千问 Qwen(2023 首代)

通义千问(英文名 Qwen)是阿里巴巴推出的大语言模型系列。2023 年 8 月 3 日,首个开放权重的模型 Qwen-7B 发布,此后该系列陆续推出多个版本和尺寸。

Code Llama

Code Llama 是 Meta 于 2023 年 8 月发布的代码模型系列,由 Llama 2 在代码数据上继续训练而成,参数从 70 亿到 700 亿不等。

Baichuan 2

Baichuan 2 是百川智能的第二代开源模型系列,2023年9月6日发布 7B 和 13B 两种规格,提供基础版、对话版和 4 位量化版。商用需申请,并受用户规模限制。

Mistral 7B

Mistral AI 的第一个模型:2023 年 9 月以 Apache 2.0 许可发布的 73 亿参数语言模型,主打用小体量对标大得多的模型。

Fuyu-8B(无视觉编码器的多模态模型)

Fuyu-8B 是 Adept 于 2023 年 10 月开源的多模态模型。它去掉了图像编码器,能接受任意分辨率的图片,面向需要读屏幕、图表和 PDF 的智能体场景。

Yi-34B / Yi-6B

Yi-34B 与 Yi-6B 是零一万物 2023 年 11 月发布的双语开源基础模型,训练数据为 3 万亿词元,发布时在开源预训练模型中排名第一。

Grok-1

Grok-1 是 xAI 的首个大语言模型,2023 年 11 月 3 日作为 Grok 聊天助手的引擎公布,其 3140 亿参数的权重于 2024 年 3 月开放。

Mixtral 8x7B

Mistral AI 于 2023 年 12 月发布的开源权重稀疏混合专家模型:总参数 467 亿,每个词元只用 129 亿,支持 32k 上下文,在多数基准上超过 Llama 2 70B。

OLMo

OLMo 是艾伦人工智能研究所(Ai2)的开放语言模型,2024 年 2 月 1 日以 1B 和 7B 两种规模发布,连同 Dolma 训练数据、训练代码、日志和检查点,全部采用 Apache 2.0 许可。

Gemma

Gemma 是 Google DeepMind 于 2024 年 2 月发布的轻量级开放模型系列,有 2B 和 7B 两个规模,技术与 Gemini 同源,并按 Google 的使用条款开放商用。

Stable Diffusion 3

Stable Diffusion 3 由 Stability AI 于2024年2月22日预览发布,是一组参数从8亿到80亿不等的模型,结合了扩散 Transformer 与流匹配(flow matching)。

EvoLLM-JP(进化式模型融合日语模型)

EvoLLM-JP 是 Sakana AI 用进化搜索融合多个开源模型得到的日语模型,不靠从头训练;7B 版本在数学能力上超过了它的三个来源模型各自单独的水平。

DBRX(Databricks 的 1320 亿参数混合专家模型)

DBRX 是 Databricks 于 2024 年 3 月 27 日发布的开放许可大语言模型,采用混合专家结构,总参数 1320 亿,每词元激活 360 亿。

Jamba

Jamba 由 AI21 Labs 于2024年3月28日发布,是一个开放权重模型,把 Mamba 状态空间层与 Transformer 注意力层组合在一起,总参数 520 亿,上下文窗口为 25.6 万词元。

Llama 3

Llama 3 是 Meta 于 2024 年 4 月 18 日发布的开放模型系列,有 80 亿和 700 亿参数两种规格。它在超过 15 万亿个公开来源的词元上完成预训练。

Phi-3

Phi-3 是微软的小型语言模型系列,2024 年 4 月以 38 亿参数的 Phi-3-mini 起步,这一模型小到可以在手机上运行。

Snowflake Arctic(4800 亿参数稠密-MoE 混合模型)

Snowflake 于 2024 年 4 月发布的开源权重模型,总参数 4800 亿、激活 170 亿,采用稠密与混合专家混合的架构,训练成本不到 200 万美元。

DeepSeek-V2

DeepSeek-V2 是 2024 年 5 月发布的混合专家模型,总参数 236B、每 token 激活 21B,引入多头潜在注意力(MLA),是后续架构的验证起点。

通义千问 Qwen2

通义千问 Qwen2 是 2024 年 6 月发布的新一代模型,包含 0.5B 至 72B 的五个尺寸,上下文最长可达 128K,多数尺寸采用 Apache 2.0 许可。

OpenVLA

OpenVLA 是一个 70 亿参数的开源视觉-语言-动作模型,在 97 万条真实机器人演示上训练,权重、代码与微调工具一并公开,让其他团队能在自己的机器人上微调和部署。

FLUX.1

FLUX.1 是 Black Forest Labs 于2024年8月1日发布的120亿参数文生图(text-to-image)模型系列,分 pro、dev、schnell 三个版本,dev 为开放权重。

Grok-2 与 Grok-2 mini

xAI 于 2024 年 8 月发布的一对模型,以 beta 形式向 X 订阅用户开放,新增图像输入,公布基准成绩,后来公开了权重。

通义千问 Qwen2.5

通义千问 Qwen2.5 是 2024 年 9 月发布的一代模型。首批开放了 13 个权重模型,预训练数据最多达 18 万亿 token,上下文最长 128K,多数开源模型采用 Apache 2.0 许可。

Llama 3.2

Llama 3.2 于 2024 年 9 月 25 日发布,新增 110 亿和 900 亿参数的视觉模型,以及面向边缘和移动设备的 10 亿和 30 亿参数纯文本小模型。

混元 Large

混元 Large 是腾讯于 2024 年 11 月开源的混合专家模型,总参数 3890 亿,激活参数 520 亿,采用腾讯自有许可证发布。

混元视频生成模型 HunyuanVideo

混元视频(HunyuanVideo)是腾讯开源的文生视频模型,参数超过 130 亿,2024 年 12 月发布。本地运行至少需要 60GB 显存。

Phi-4

Phi-4 是微软于 2024 年 12 月发布的 140 亿参数稠密解码器式语言模型,训练重心放在数据质量与合成数据上,2025 年 1 月以 MIT 许可证放出完整权重。

MiniMax-01 系列(Text-01 与 VL-01)

MiniMax-01 是 MiniMax(稀宇科技)2025 年 1 月发布的开放权重模型系列,含语言模型 MiniMax-Text-01 与视觉语言模型 MiniMax-VL-01,采用混合注意力并支持超长上下文。

Step-Video-T2V 视频生成模型

Step-Video-T2V 是阶跃星辰开源的文生视频模型,参数规模 300 亿。2025 年 2 月 17 日发布权重、代码、Turbo 版本和技术报告,采用 MIT 许可证。

通义万相 Wan2.1 视频生成模型

通义万相 Wan2.1 是阿里巴巴于 2025 年 2 月开源的视频生成模型,可以根据文字或图片生成视频,并能在画面中呈现中英文文字。

Ling / 百灵(蚂蚁集团 MoE 模型)

Ling(百灵)是蚂蚁集团 InclusionAI 发布的开放权重混合专家语言模型系列,其技术报告主张无需高端 GPU 也能训练 300B 规模的 MoE 模型。

通义千问推理模型 QwQ-32B

通义千问团队于 2025 年 3 月 6 日发布的开源权重推理模型,参数规模 320 亿,主要靠规模化强化学习训练,官方称其表现可与体量大得多的 DeepSeek-R1 相若。

Gemma 3

Gemma 3 是 Google 于 2025 年 3 月发布的第三代 Gemma 开放模型,共有 1B 到 27B 四种规模,支持 128,000 词元的上下文,较大版本可处理图像,预训练阶段覆盖 140 多种语言。

文心大模型 4.5

文心大模型 4.5 是百度于 2025 年 3 月发布的原生多模态基础模型,可处理文本、图像、音频和视频。2025 年 6 月,百度开源了该系列的十款模型。

Llama 4 Maverick

Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日与 Scout 同时发布的混合专家模型,总参数 4000 亿,上下文窗口为 100 万个词元。它在 LMArena 上的排名之后受到质疑。

Llama 4 Scout

Llama 4 Scout 是 Meta 于 2025 年 4 月 5 日发布的混合专家模型,总参数 1090 亿,每个词元激活其中 170 亿,上下文窗口达 1000 万个词元。

MiMo-7B(小米推理模型)

MiMo-7B 是小米 LLM-Core 团队推出的 70 亿参数推理模型,基座在 25 万亿 token 上预训练,再用可验证的数学与编程题做强化学习,报告称其表现超过 OpenAI o1-mini。

Falcon-H1(Transformer + Mamba 混合模型)

Falcon-H1 是 Falcon 系列的一组开放权重语言模型,把 Transformer 注意力与状态空间模型并行组合,参数规模从 0.5B 到 34B,权重以 Falcon-LLM Licence 发布。

DeepSeek-R1-0528

这是 DeepSeek 推理模型的更新版本,2025 年 5 月 28 日以 MIT 许可证发布,在竞赛数学、科学与编程基准上成绩明显提高,并支持系统提示、增强了函数调用能力。

FLUX.1 Kontext

FLUX.1 Kontext 是 Black Forest Labs 于 2025 年 5 月 29 日宣布的图像模型系列,可以同时以文字和图片为输入,进行生成与编辑。其开放权重的 dev 版本于 2025 年 6 月发布。

MiniMax-M1 推理模型

MiniMax-M1 是 MiniMax(稀宇科技)于 2025 年 6 月发布的开放推理模型,总参数 456B,原生支持 100 万词元上下文,采用 Apache 2.0 许可,提供 40K 与 80K 两种思考预算版本。

GLM-4.5 与 GLM-4.5-Air

GLM-4.5 是智谱(Z.ai)2025 年 7 月发布的开源大语言模型,总参数 3550 亿,同时发布较轻量的 GLM-4.5-Air。两者均为混合推理模型,采用 MIT 许可证。

EXAONE 4.0(统一推理与非推理模式)

EXAONE 4.0 是 LG 的大语言模型系列,一次发布 32B 与 1.2B 端侧两个尺寸,把易用的对话能力与推理模式合并到同一模型,并加入工具调用和西班牙语支持。

HyperCLOVA X SEED 14B Think(NAVER 轻量推理模型)

NAVER 于 2025 年 7 月发布的 147.4 亿参数推理模型,用剪枝与蒸馏把模型做小,再用四阶段推理训练流程训练,并称训练成本远低于同级模型。

Qwen3-2507 更新版

Qwen3-2507 是 2025 年 7 月至 8 月分批发行的 Qwen3 更新系列,把思考与非思考模式拆成各自独立的模型,原生上下文扩到 262,144 个 token,多项基准成绩大幅超过原版非思考模式。

Qwen3-Coder 代码模型

Qwen3-Coder 是 Qwen 团队推出的开放权重代码模型系列;其中 2025 年 7 月公布的旗舰版拥有 4800 亿参数,专门为智能体式编程任务而训练。

Step 3

Step 3 是阶跃星辰开源的多模态推理模型,总参数 3210 亿,每个 token 激活 380 亿参数。2025 年 7 月发布,采用 Apache 2.0 许可证。

gpt-oss(开放权重模型 120b / 20b)

gpt-oss 是 OpenAI 于 2025 年 8 月 5 日发布的开放权重推理语言模型系列,提供 120b 和 20b 两个规模,采用宽松的 Apache 2.0 许可证。

Seed-OSS-36B 开源模型

字节跳动 Seed 于 2025 年 8 月开源的 360 亿参数模型系列,使用 12 万亿 token 训练,原生支持 512K 上下文,并允许用户设置「思考预算」。

DeepSeek-V3.1

DeepSeek-V3.1 由深度求索(DeepSeek)于 2025 年 8 月 21 日发布,采用 MIT 许可证,是该公司首个混合推理模型,同一组权重同时支持思考模式和非思考模式。

通义千问 Qwen3-VL 视觉语言模型

Qwen3-VL 是阿里巴巴通义千问团队2025年9月发布的开放视觉语言模型系列,以 Apache 2.0 许可证发布,旗舰版本为 2350 亿参数,支持长视频、界面操作与空间定位。

LongCat-Flash(美团 560B MoE 模型)

LongCat-Flash 是美团 LongCat 团队推出的 5600 亿参数混合专家语言模型,每个 token 平均激活约 270 亿参数,权重以 MIT 许可证开放。

混元图像 3.0

腾讯 2025 年 9 月开源的图像生成模型:原生多模态,用自回归的混合专家结构把图像理解与生成放进同一个框架。

MiniMax-M2

MiniMax-M2 是 MiniMax 于 2025 年 10 月发布的开源权重混合专家模型,总参数 230B、激活 10B,面向编程与智能体工作流。

Kimi K2 Thinking 推理模型

Kimi K2 Thinking 是 Moonshot AI 于 2025 年 11 月发布的推理模型,沿用 Kimi K2 的混合专家结构,针对原生 INT4 推理与长链条工具调用做了训练。

Olmo 3

Olmo 3 是艾伦人工智能研究所(Ai2)完全开放语言模型的第三代,2025 年 11 月 20 日宣布,提供 7B 和 32B 稠密 Transformer 规模,上下文 65,536 词元,数据全部公开。

FLUX.2

FLUX.2 是 Black Forest Labs 于 2025 年 11 月 25 日发布的图像生成与编辑模型系列,包含托管版本与开放权重版本,支持最高 4 百万像素输出和最多 10 张参考图。

DeepSeekMath-V2 自验证数学推理模型

DeepSeekMath-V2 于 2025 年 11 月 27 日发布,是一个能够验证自身证明的数学推理模型,报告在 IMO 2025 题目上达到金牌水平。

GLM-4.7

GLM-4.7 是智谱于 2025 年 12 月发布的开源权重语言模型,主打多语言智能体编程与终端任务,在软件工程类基准上较 GLM-4.6 有明显提升,并以 MIT 许可证开放。

DeepSeek-V3.2 与 V3.2-Speciale

DeepSeek-V3.2 于 2025 年 12 月 1 日发布,是 V3.2-Exp 的正式后继版本;配套的 V3.2-Speciale 专注于最大化推理,在多项竞赛中达到金牌水平。

Mistral Large 3

Mistral AI 于 2025 年 12 月发布的旗舰模型,稀疏混合专家架构,总参数 6750 亿,开放权重,支持图像理解与 40 多种语言。

Solar Open 100B(Upstage 开源 MoE 模型)

Solar Open 100B 是韩国 Upstage 于 2025 年 12 月发布的英韩双语混合专家模型,总参数 1026 亿、每 token 激活 120 亿,权重以自定义许可发布。

Kimi K2.5

Kimi K2.5 是月之暗面于 2026 年 1 月 27 日发布的开放权重模型,原生支持多模态,总参数 1 万亿,上下文 256K 个词元,并带有可并行调度子智能体的 Agent Swarm 功能。

Step 3.5 Flash

Step 3.5 Flash 是阶跃星辰推出的开源混合专家(Mixture-of-Experts,MoE)语言模型,2026 年 2 月发布,总参数 1960 亿,上下文长度 256K,采用 Apache 2.0 许可证。

MiniMax-M2.5

MiniMax-M2.5 是 MiniMax 于 2026 年 2 月发布的开源权重大模型,229B 参数,面向智能体编程与办公任务,同时推出速度更快的 Lightning 版本,并在软件工程基准上取得高分。

GLM-5

GLM-5 是智谱 2026 年 2 月 12 日发布的开源模型,采用 MIT 许可证,总参数 7440 亿,每个 token 激活 400 亿参数,面向智能体工程(agentic engineering)。

通义千问 Qwen3.5

通义千问 Qwen3.5 是阿里巴巴2026年2月发布的原生多模态模型系列,开放旗舰总参数 3970 亿、每个词元激活 170 亿,以 Apache 2.0 许可证发布。

Reka Edge(70 亿参数端侧视觉语言模型)

Reka Edge 是 Reka AI 于 2026 年 3 月 11 日发布的 70 亿参数视觉语言模型,可接收图像、视频和文本并输出文本,主打在笔记本电脑、手机和小型端侧设备上本地运行。

NVIDIA Isaac GR00T N1.7

NVIDIA 面向人形机器人发布的开放推理型视觉-语言-动作模型,2026 年 3 月发布,可在真实环境中商用,并用大规模机器人操作数据训练。

通义千问 Qwen3.6

通义千问 Qwen3.6 是 2026 年 4 月发布的一代模型:闭源的 Plus、Max 版本主打智能体编程,开放权重的 Qwen3.6-35B-A3B 以 350 亿总参数、30 亿激活参数给出基准成绩。

Gemma 4

Gemma 4 是 Google 在 2026 年 4 月发布的第四代开放权重模型,与 Gemini 3 建立在同一套研究和技术之上,覆盖从手机可跑的 E2B、E4B,到 26B 混合专家模型和 31B 稠密模型。

GLM-5.1

GLM-5.1 是智谱于 2026 年 4 月以 MIT 许可证开源的大模型,主打编程与长程智能体任务,在 SWE-Bench Pro 上取得其对比表中的最高分。

EXAONE 4.5(LG 首个开源视觉语言模型)

EXAONE 4.5 是 LG AI Research 于 2026 年 4 月发布的首个开放权重视觉语言模型,总参数 330 亿,其中视觉编码器 12 亿,上下文长度 256K 个 token,侧重文档理解与韩语语境推理。

Laguna XS.2(Poolside 首个开放权重编程模型)

Laguna XS.2 是 Poolside 首个开放权重模型,总参数 330 亿、每个 token 激活 30 亿,以 Apache 2.0 许可发布,训练用了 30 万亿 token。

Command A+

Command A+ 是 Cohere 于 2026 年 5 月 20 日以 Apache 2.0 许可发布的开源混合专家模型,总参数 2180 亿、激活 250 亿,面向主权部署与关键基础设施场景。

MiniCPM5(面壁智能 1B/2B 端侧模型系列)

MiniCPM5 是 MiniCPM 团队的小参数、稠密架构开放权重模型系列,2026 年 5 月先发布 1B 版本,9 月跟进 2B 版本,面向端侧与资源受限场景。

MiniMax-M3

MiniMax 于 2026 年 6 月发布的大规模混合专家语言模型,总参数约 428B,支持 100 万 token 上下文,并引入为长上下文设计的新型稀疏注意力。[^1]

GLM-5.2

智谱于 2026 年 6 月以 MIT 许可发布的开源大模型,上下文扩至 100 万 token,通过跨层共享稀疏注意力索引器压低长上下文成本,推理与编程成绩高于 GLM-5.1。

腾讯混元 Hy3

混元 Hy3 是腾讯于 2026 年 7 月 6 日发布的开放权重推理模型,采用 Apache 2.0 许可,总参数 2950 亿,每个词元激活 210 亿,支持 256K 上下文。

Inkling

Inkling 是 Thinking Machines Lab 发布的第一个模型:9750 亿参数混合专家模型,开放权重,原生支持文本、图像和音频输入,上下文窗口最高 100 万 token。

通义千问 Qwen3.8

通义千问 Qwen3.8 是阿里巴巴2026年的旗舰系列。开放的 Qwen3.8-2.4T-A95B 于2026年8月发布,总参数 2.4 万亿,激活 95B,采用自定义许可证。

GLM-5.3

GLM-5.3 是智谱于 2026 年 8 月 14 日发布的开源权重模型。它沿用 GLM-5.2 的基座,全部提升来自后训练,在智能体编程与网络安全类基准上取得开源最好成绩。

腾讯混元 Hy4 preview

混元 Hy4 preview 是腾讯于 2026 年 8 月 28 日发布的开放权重混合专家模型,总参数 7700 亿,每个词元激活 490 亿,上下文超过一百万词元。

DeepSeek-V4.1-Flash

DeepSeek-V4.1-Flash 于 2026 年 9 月 10 日发布,是一款 5520 亿参数的多模态混合专家模型,API 模型名为 deepseek-flash。

Kimi K3.1 Pro

Kimi K3.1 Pro 是月之暗面(Moonshot AI)于 2026 年 10 月发布的开放权重模型,K3.1 系列的首个成员,面向金融研究、3D 建模与编程。它沿用 K3 的规模,但把全注意力层换成了稀疏注意力层。

Kolibri-1(Aleph Alpha 的德英双语混合专家模型)

Kolibri-1 是 Aleph Alpha 发布的开源权重混合专家模型,只做德语和英语,总参数 781 亿、每个 token 激活 34.6 亿,上下文窗口超过 100 万 token,权重可装进单张 GPU。

Mistral Large 4

Mistral Large 4 是 Mistral AI 的旗舰开放权重模型,总参数约 1 万亿,上下文窗口为 100 万词元(token),原生支持多模态。2026年10月6日公开预览,同年10月29日发布改进版权重。

Jais-3-MoVA-36B-A4B(MoVA 注意力混合专家模型)

Jais-3-MoVA-36B-A4B 是基础模型研究院(IFM)推出的阿拉伯语中心模型:总参数 360 亿、每个 token 仅激活 40 亿,上下文窗口 51.2 万 token,注意力层采用 MoVA 稀疏方案。

Jais-3-7B(可在单卡运行的阿拉伯语模型)

Jais-3-7B 是基础模型研究院推出的稠密 7B 阿拉伯语与英语模型,上下文窗口为 512,000 个 token,约 18 GB 即可在单张 GPU 上运行,思考过程放在单独字段返回。

Muse Spark Open

Muse Spark Open 是 Meta 于 2026 年 10 月 15 日发布的开放权重大语言模型,总参数 8,160 亿,主打编程和智能体任务,权重可下载。

LFM3-Omni-2B(Liquid AI 端侧全模态模型)

LFM3-Omni-2B 是 Liquid AI 在 LFM3 系列中推出的首个全模态模型:一个 21.7 亿参数的模型即可读入文本、图像、视频和音频,并以文字或语音作答。

文心 ERNIE 2.0

文心 ERNIE 2.0 是百度提出的预训练语言模型框架,以持续多任务学习的方式不断叠加预训练任务,并在中英文多项基准上报告了超过 BERT 与 XLNet 的成绩。

GPT-Neo

GPT-Neo 是 EleutherAI 于 2021 年 3 月发布的一组开放文本生成模型,含 125M、1.3B、2.7B 三种规模,意在复现 GPT-3 架构,权重可自由下载,采用 MIT 许可证。

OPT-175B(开放预训练 Transformer)

OPT-175B 是 Meta AI 于 2022 年 5 月公布的 1750 亿参数语言模型。Meta 称,它是同等规模中首个连同预训练模型与训练、使用代码一起发布的模型。

Galactica(科学大模型)

Galactica 是 Meta AI 与 Papers with Code 于 2022 年 11 月推出的科学大语言模型。上线约三天后,Meta 撤下了公开演示,但模型仍向研究者开放。

Stable Diffusion 2

Stable Diffusion 2 是 Stability AI 于 2022 年 11 月 24 日发布的开源文生图模型系列,采用新的 OpenCLIP 文本编码器,并附带超分辨率、深度引导与修复模型。

Pythia

Pythia 是 EleutherAI 发布的一套 16 个开源语言模型,规模从 7000 万到 120 亿参数,全部用同一份数据、按同样的顺序训练,每次训练公开 154 个检查点。

Stable LM

Stable LM 是 Stability AI 于 2023 年 4 月发布的开源语言模型系列,首批为 30 亿和 70 亿参数的 alpha 版;基础模型允许商用,指令微调版本仅限研究。

StarCoder

StarCoder是BigCode项目于2023年5月4日发布的开放代码语言模型,约155亿参数,由Hugging Face与ServiceNow共同领导的项目推出。

Baichuan-7B

Baichuan-7B 是 2023 年 6 月发布的开源中英双语大语言模型,参数量 70 亿,是百川的第一个模型,训练约 1.2 万亿词元,并在中英文基准上给出了评测成绩。

Phi-1

Phi-1 是微软研究院发布的一个 13 亿参数的 Transformer 语言模型,专攻 Python 代码;它用经过筛选的「教科书质量」数据和合成数据说明,数据质量可以在一定程度上替代模型与数据规模。

Baichuan-13B

百川智能2023年7月发布的开源130亿参数语言模型,分基座版与对话版,以1.4万亿token训练,并在中英文基准上同LLaMA-13B做对照。

通义千问视觉语言模型 Qwen-VL

Qwen-VL 是 2023 年 8 月发布的一系列视觉语言模型,在通义千问语言模型基础上加入看图、答问、定位物体和读取文字的能力,Base 与 Chat 版本开放。

Phi-1.5

Phi-1.5 是微软研究院的 13 亿参数语言模型,用经过挑选和生成的「教科书式」文本训练,不用网页抓取数据;报告称其自然语言表现可与体积大 5 倍的模型相比。

PLaMo-13B(PFN 日英双语模型)

PLaMo-13B 是 Preferred Networks 训练并开源的 130 亿参数日英双语语言模型,以 LLaMA 为基础,2023 年 9 月以 Apache-2.0 许可在 Hugging Face 公开。

DeepSeek Coder 代码模型

DeepSeek 的第一个模型发布:开源代码模型系列,参数规模从 1.3B 到 33B,在 2 万亿 token 上从零训练,据报在多项基准上超过 Codex 与 GPT-3.5。

GraphCast

GraphCast 是 Google DeepMind 的机器学习天气预报模型,能在单台 TPU 上不到一分钟生成 10 天全球预报,并在多数测试变量上优于 ECMWF 的 HRES。

Stable Video Diffusion

Stable Video Diffusion 是 Stability AI 于 2023 年 11 月 21 日发布的研究预览版图像转视频模型,可把一张静态图片生成为数秒短片。

DeepSeek LLM 通用语言模型(7B / 67B)

DeepSeek LLM 是深度求索于 2023 年 11 月 29 日发布的首个通用语言模型系列,提供 7B 和 67B 两种规模,每种都有基础版和对话版。

Phi-2

Phi-2 是微软研究院 2023 年 12 月 12 日公布的 27 亿参数基座语言模型,微软称它在复杂基准上匹配或超过最多 25 倍大的模型,成为小模型路线的一个参照点。

DeepSeekMoE 混合专家模型

DeepSeekMoE 是 DeepSeek 在 2024 年 1 月发布的混合专家架构,通过细粒度专家分割与共享专家隔离,让每个专家掌握更聚焦的知识。其 16B 开源模型以远低于同类模型的计算量取得了相当的表现。

AlphaGeometry

AlphaGeometry 是 Google DeepMind 开发的几何解题系统,把神经语言模型与符号推演引擎结合在一起,在一组 30 道奥赛几何题上达到接近人类金牌选手的水平。

Yi-VL 多模态模型

Yi-VL-34B 与 Yi-VL-6B 是零一万物 2024 年 1 月 23 日开源的多模态模型,能够同时理解图像与文字,在 MMMU 与 CMMMU 基准上位列开源模型第一。

Aya 101

Aya 101 是 Cohere For AI 发布的指令微调模型,参数量 13 billion,能用 101 种语言遵循指令,2024 年 2 月以 Apache 2.0 许可证开放。

DeepSeekMath 数学模型

DeepSeekMath 是 2024 年发布的开源数学模型,参数规模 7B,不用外部工具就在竞赛级 MATH 基准上取得 51.7% 的成绩,并提出比 PPO 更省显存的强化学习算法 GRPO。

通义千问 Qwen1.5

通义千问 Qwen1.5 是 2024 年 2 月发布的开源模型系列,包含 0.5B 到 72B 参数的基础模型和对话模型,后扩展至 110B,并有一个混合专家模型。

StarCoder2

StarCoder2 是 BigCode 联合 NVIDIA 于 2024 年 2 月发布的开放代码模型系列,含 3B、7B、15B 三种规模,训练数据与代码一并公开。

孟子3(Mengzi3)

孟子3(Mengzi3)是澜舟科技开源的一系列大语言模型,有 8B 与 13B 两种规模,采用 Llama 架构,在数万亿多语言 token 上继续训练,以 Apache-2.0 许可开放。

Mixtral 8x22B

Mistral AI 于 2024 年 4 月发布的稀疏混合专家语言模型,总参数 1410 亿,每个词元激活其中 390 亿,以 Apache 2.0 许可开放权重。

OpenELM

OpenELM 是 Apple 发布的一系列小型开放语言模型,共 270M 至 3B 四种规模,并公开了训练框架、日志、检查点以及转换为 MLX 的代码。

Octo

Octo 是一个开源的通用机器人策略,用 80 万条机器人轨迹训练的基于 Transformer 的扩散模型,可以直接控制多种机器人,并能高效微调到新的机器人配置。

Yi-1.5

Yi-1.5 是零一万物于 2024 年 5 月开源的模型系列,含 34B、9B、6B 三种规模,各有基础版与对话版,由原 Yi 模型继续预训练而来。

混元 DiT 文生图模型

混元 DiT(Hunyuan-DiT)是腾讯推出的开源文生图模型,对中文和英文提示词都有细粒度理解。2024 年的技术报告与模型权重均对外公开,人工评测中它超过多个开源模型,但落后于领先的闭源模型。

Aya 23

Aya 23 是 Cohere For AI 发布的开放权重多语言指令微调模型,2024 年 5 月推出 80 亿和 350 亿参数两个版本,覆盖 23 种语言,作者称其表现优于 Aya 101 等模型。

Nemotron-4 340B

Nemotron-4 340B 是 NVIDIA 于 2024 年 6 月 14 日发布的开放模型系列,包括基础、指令和奖励三个版本,用于生成合成训练数据。

DeepSeek-Coder-V2 代码模型

DeepSeek 2024 年 6 月发布的开源混合专家代码模型,支持语言从 86 种增至 338 种、上下文从 16K 扩到 128K,并在代码与数学基准上高于多个闭源模型。

Gemma 2

Google 于 2024 年 6 月 27 日发布的第二代 Gemma 开放模型,含 90 亿与 270 亿参数两个版本,采用分组查询注意力与 8192 词元上下文窗口,许可证允许商业使用。

可图(Kolors)

可图(Kolors)是快手于2024年7月6日发布的开源文生图模型,基于潜在扩散,主打中英文双语提示词理解。

SmolLM

SmolLM 是 Hugging Face 于 2024 年 7 月公开发布的一系列小型语言模型,参数量分别为 135M、360M 和 1.7B,面向设备端运行,并用一套专门构建的语料训练。

Mistral NeMo

Mistral NeMo 是 Mistral AI 与 NVIDIA 于 2024 年 7 月发布的 120 亿参数开放权重模型,支持 128K token 上下文与多语言。

SAM 2(分割一切模型第二代)

SAM 2 是 Meta 于 2024 年 7 月发布的分割一切模型第二代,可以实时分割图像和视频中的物体。随模型发布的还有 SA-V 视频数据集。

Phi-3.5

Phi-3.5 是微软 Phi 系列小模型在 2024 年 8 月的一次更新,一次发布 mini、vision 和该系列首个混合专家模型三个版本,均以 MIT 许可证开放。

CogVideoX 视频生成模型

CogVideoX 是智谱 AI 与清华大学推出的开源文生视频模型系列,2024 年 8 月起陆续发布,前身是 2022 年开源的 CogVideo。

EXAONE 3.0(LG 首个开源模型)

EXAONE 3.0 7.8B 是 LG AI Research 首个对外开放的模型,为指令微调版本,韩语能力突出,权重以申请制方式在 Hugging Face 发布。

Jamba 1.5(Mini 与 Large)

Jamba 1.5 是 AI21 Labs 的指令微调语言模型系列,含 Mini 与 Large 两个规模,混合 Transformer 与 Mamba 层,有效上下文 25.6 万词元,权重开放。

通义千问 Qwen2-VL 视觉语言模型

Qwen2-VL 是阿里巴巴于 2024 年 8 月 29 日发布的视觉语言模型。它能理解 20 分钟以上的视频,能读取多种语言的图中文字,还可以作为代理操作手机和机器人。

OLMoE

OLMoE 是 Ai2 发布的完全开放的稀疏专家混合语言模型:总参数 70 亿,每个词元激活 10 亿,在 5 万亿词元上预训练,权重、数据、代码和日志全部公开。

DeepSeek-V2.5

DeepSeek-V2.5 是 DeepSeek 于 2024 年 9 月 5 日发布的模型,把对话模型与代码模型合并为一个,兼顾聊天和编程能力,并提升了安全评测成绩。

Yi-Coder 代码模型

Yi-Coder 是 01.AI 于 2024 年 9 月开源的一系列代码模型,有 1.5B 和 9B 两种规模,各自提供基础版和对话版,覆盖 52 种编程语言,上下文最长 128K token。

Pixtral 12B

Mistral AI 的第一个多模态模型,把 12B 参数的语言解码器与 400M 参数、从零训练的视觉编码器组合起来,以 Apache 2.0 开放权重,2024 年 9 月发布,2025 年底退役。

Molmo

Molmo 是 Ai2 于 2024 年 9 月 25 日发布的一系列开放视觉语言模型,能在图像中指出具体物体,权重、代码、数据与评测全部公开。

Aya Expanse

Aya Expanse 是 Cohere For AI 于 2024 年 10 月发布的多语言开放权重模型系列,分为 8B 和 32B 两个规模,覆盖 23 种语言。

Stable Diffusion 3.5

Stability AI 于 2024 年 10 月推出的文生图模型系列:81 亿参数的 Large、4 步出图的 Large Turbo 和 25 亿参数的 Medium,按社区许可发布。

SmolLM2

SmolLM2 是 Hugging Face 于 2024 年 11 月发布的第二代小型语言模型系列,包含 135M、360M 和 1.7B 三种规模,以 Apache 2.0 许可开放,强调数据而非参数规模。

Tülu 3

Tülu 3 是 Ai2 于 2024 年 11 月发布的一套公开后训练方案及配套模型,基于 Llama 3.1 的 80 亿和 700 亿参数两个版本,结合了指令微调、同策略偏好微调与带可验证奖励的强化学习。

OLMo 2

OLMo 2 是艾伦人工智能研究所(Ai2)第二代完全开放的语言模型,2024 年 11 月发布 7B 与 13B 两个规模,权重、数据、代码与训练配方全部公开。

通义千问推理模型 QwQ-32B-Preview

QwQ-32B-Preview 是通义千问团队于 2024 年 11 月 28 日发布的实验性推理研究模型,32B 参数、32K 上下文,权重以 Apache 2.0 开放;数学成绩突出,团队同时公开列出了它的典型问题。

EXAONE 3.5(LG 韩英双语模型)

LG AI Research 于 2024 年 12 月发布的韩英双语指令微调模型系列,含 2.4B、7.8B、32B 三档规模,支持 32K 上下文,权重以允许研究使用的许可证开放。

Llama 3.3 70B

Llama 3.3 70B 是 Meta 于 2024 年 12 月 6 日发布的纯文本指令模型。Meta 称,它的表现接近 4050 亿参数的 Llama 3.1,成本却低得多,并可在普通开发者工作站上运行。

DeepSeek-VL2 视觉语言模型

DeepSeek 发布的混合专家视觉语言模型系列,是 DeepSeek-VL 的后继版本,分 1.0B、2.8B、4.5B 三个激活参数规模,面向文档、表格、图表与 OCR 理解。

Falcon3(TII 开源模型系列)

Falcon3 是 TII 的开放权重语言模型系列,覆盖 1B 到 10B 参数,各有基础与 instruct 版本;10B instruct 权重于 2024 年 12 月 14 日上传到 Hugging Face。

Megrez-3B-Instruct(无问芯穹端侧模型)

无问芯穹 2024 年 12 月开源的 29 亿参数语言模型,采用 Llama-2 结构与 32K 上下文,Apache-2.0 许可,面向本地部署。

Megrez-3B-Omni(无问芯穹端侧全模态模型)

Megrez-3B-Omni 是 2024 年 12 月发布的开源全模态模型,能在端侧设备上理解图像、文本与音频,以 22.9 亿参数的语言主干搭配 SigLip 与 Whisper 编码器,总参数约 40 亿。

通义千问 Qwen2.5-VL 视觉语言模型

通义千问 Qwen2.5-VL 是阿里巴巴 2025 年 1 月发布的视觉语言模型系列,有 3B 至 72B 四个尺寸,能读取图表和文档、定位物体并作为视觉代理工作,还能理解一小时以上的视频。

NVIDIA Cosmos 世界基础模型

NVIDIA Cosmos 是一组世界基础模型,可生成符合物理规律的视频,用于训练机器人和自动驾驶汽车,2025 年 1 月以开放权重发布。

UI-TARS

UI-TARS 是字节跳动 Seed 的图形界面智能体模型,只输入截图、直接输出键盘和鼠标操作,在十多个基准上报告了当时最好的成绩,并以 Apache-2.0 协议开放权重。

混元 3D 2.0

混元 3D 2.0 是腾讯的大规模三维生成系统,输入条件图像即可生成带高分辨率纹理的三维资产;它由生成形状的扩散 Transformer 与生成纹理的模型组成,2025 年 1 月 21 日随技术报告一同开源。

Baichuan-M1 医疗大模型

Baichuan-M1 是百川智能的医疗大模型系列,2025年1月24日发布 Baichuan-M1-preview,并开源 Baichuan-M1-14B。公司称后者从零开始为医疗场景训练。

Janus-Pro 多模态理解与生成模型

Janus-Pro 是 DeepSeek 于 2025 年 1 月 27 日发布的多模态模型,同一个模型既能看图生文,也能按文字生成图片,有 1B 和 7B 两个规模,是 Janus 的升级版。

Mistral Small 3

Mistral Small 3 是 Mistral AI 于 2025 年 1 月发布的 240 亿参数开源语言模型,以 Apache 2.0 许可发布,主打低延迟,可在单张显卡或笔记本上运行。

Step-Audio 语音模型

Step-Audio 是阶跃星辰 2025 年 2 月 17 日开源的语音交互模型系列,包括 1300 亿参数的 Step-Audio-Chat 和 Step-Audio-TTS-3B。

Phi-4-mini 与 Phi-4-multimodal

Phi-4-mini 是 38 亿参数的文本模型,Phi-4-multimodal 是 56 亿参数、可同时处理文字、图像与语音的模型,二者于 2025 年 2 月作为 Phi-4 家族的小尺寸成员发布。

Jamba 1.6

AI21 Labs 于 2025 年 3 月发布的开放权重混合 SSM-Transformer 模型系列,含 Large 与 Mini 两档,支持 256k 上下文。

Aya Vision

Cohere 的第一个视觉语言模型,2025 年 3 月以 8B 和 32B 两个开放权重版本发布,支持 23 种语言的图文输入,按非商业许可开放。

Reka Flash 3(210 亿参数推理模型)

Reka Flash 3 是 Reka 推出的 210 亿参数通用推理模型,从零训练,2025 年 3 月以 Apache 2.0 许可在 Hugging Face 开放权重。

OLMo 2 32B

OLMo 2 系列中参数规模最大的模型,320 亿参数,数据、代码、权重与训练细节全部公开;Ai2 称它是首个在多项学术基准上超过 GPT-3.5-Turbo 和 GPT-4o mini 的完全开源模型。

Mistral Small 3.1

Mistral Small 3.1 是 Mistral AI 于 2025 年 3 月发布的开放权重模型,新增图像理解,上下文窗口扩至 128K token,可在单卡上运行。

Llama Nemotron(Nano、Super、Ultra)

Llama Nemotron 是 NVIDIA 2025 年 3 月推出的开放推理模型系列,分 Nano、Super、Ultra 三种规格,基于 Meta 的 Llama 3 模型。

DeepSeek-V3-0324

DeepSeek-V3-0324 是 2025 年 3 月对 DeepSeek-V3 的一次更新:模型结构不变,基准成绩提高,并改用 MIT 许可证发布。

通义千问全模态模型 Qwen2.5-Omni

Qwen2.5-Omni 是阿里巴巴的端到端全模态模型,输入可包括文字、图片、音频和视频,并以文字与自然语音作答。7B 版本于 2025 年 3 月 26 日发布。

Kimi-VL 视觉语言模型

Kimi-VL 是月之暗面(Moonshot AI)于 2025 年 4 月发布的开源视觉语言模型。它把 16B 参数、约 3B 激活的混合专家语言模型与原生分辨率视觉编码器组合在一起,可在宽松的 MIT 许可下使用。

xLAM-2(Salesforce 的多轮工具调用模型系列)

xLAM-2 是 Salesforce 的大行动模型系列,参数规模从 10 亿到 700 亿,用模拟智能体与人交互生成的数据训练,面向多轮工具调用而非单次函数调用。

UI-TARS-1.5

字节跳动 Seed 在 2025 年 4 月发布的界面操作模型,是 UI-TARS 的后继版本。7B 版本以 Apache-2.0 协议开源,完整版本在多项屏幕操作基准上报告了当时最好成绩。

Step1X-Edit 图像编辑模型

Step1X-Edit 是 StepFun 开源的图像编辑模型:多模态语言模型读参考图与编辑指令,扩散解码器负责出图,发布时一并公开权重、推理代码和评测集 GEdit-Bench。

DeepSeek-Prover-V2 定理证明模型

DeepSeek 发布的 Lean 4 形式化定理证明开源模型,用子目标分解流程构造训练数据,在 MiniF2F-test 上通过率达 88.9%,并提出 ProverBench 基准。

Phi-4-reasoning

微软于 2025 年 4 月发布的 140 亿参数开放权重推理模型,在 Phi-4 上用 OpenAI o3-mini 生成的推理过程做微调,以 MIT 许可证发布。

Seed-Coder 代码模型

Seed-Coder 是字节跳动 Seed 团队于 2025 年 5 月发布的开源代码模型系列,三个版本均为 8B 参数,其数据筛选由语言模型而非人工规则完成。

Devstral

Devstral 是 Mistral AI 与 All Hands AI 合作推出的智能体编程模型系列,2025 年 5 月首次发布,首个版本在 SWE-Bench Verified 上得分 46.8%。

Sarvam-M(印度多语言混合推理模型)

Sarvam-M 是 Sarvam AI 发布的开源权重模型,在 Mistral Small 基础上后训练而成,覆盖 11 种印度语言,支持思考与不思考两种模式,在印度语言、数学和编程基准上有明显提升。

MiniCPM4(面壁智能端侧模型)

MiniCPM4 是面壁智能面向端侧设备而非服务器设计的语言模型,采用可训练的稀疏注意力 InfLLM v2,并在数据、训练与推理环节做了配套优化,以 Apache-2.0 许可开放权重。

Magistral

Magistral 是 Mistral AI 的首批推理模型系列,2025 年 6 月发布开放权重的 Small 与企业版 Medium,支持多语言推理,后经 1.1、1.2 更新并退役。

Gemma 3n

Gemma 3n 是 Gemma 家族中以移动端为先的开放模型,2025 年 6 月发布,有 E2B 与 E4B 两个规格,运行时占用约 2 至 3 GB 内存,原生支持图像、音频、视频和文本输入。

混元 A13B

混元 A13B 是腾讯于 2025 年 6 月开源的混合专家语言模型,总参数 800 亿、每个词元激活 130 亿,支持 256K 上下文和可开关的深度思考。

Jamba 1.7

Jamba 1.7 是 2025 年 7 月发布的 Jamba 系列更新,含 Large 与 Mini 两版,提供 256k 上下文、九种语言,并在事实性和指令遵循上有所改进。

SmolLM3

SmolLM3 是 Hugging Face 于 2025 年 7 月 8 日发布的 30 亿参数开放模型,支持六种语言与最长 128K 令牌的上下文,可切换推理模式。

Voxtral

Voxtral 是 Mistral AI 于 2025 年 7 月 15 日发布的语音理解模型系列,含 240 亿与 30 亿参数两个规模,以 Apache 2.0 许可发布,可转写长音频、就音频内容问答,并按口述意图触发函数调用。

Megrez2(无问芯穹端侧 MoE 模型)

Megrez2-3x7B-A3B 是面向端侧部署的混合专家语言模型,通过让相邻层共用一个专家池,把存储参数压到 75 亿,而每个 token 只激活约 30 亿参数。

Step-Audio 2 语音模型

Step-Audio 2 是阶跃星辰(StepFun)发布的语音模型,既能理解音频内容,也能进行语音对话。其中 mini 版本于 2025 年以 Apache 2.0 许可证开源。

混元 3D 世界模型 1.0

混元 3D 世界模型 1.0 是腾讯开源的 3D 世界生成模型,可从文字或图像生成可探索、可导出网格的三维场景。它于 2025 年 7 月发布,此后又推出了一系列更轻量、更快的版本。

通义万相 Wan2.2 视频生成模型

2025 年 7 月以 Apache 2.0 许可开源的视频生成模型系列,把双专家的混合专家结构引入视频扩散,其中的 5B 版本可在单张消费级显卡上运行。

Baichuan-M2 医疗大模型

Baichuan-M2 是百川智能开源的医疗增强大模型,参数规模为 32B,基于 Qwen2.5-32B 构建,采用 Apache 2.0 许可证,供研究与参考使用。

通义千问图像生成模型 Qwen-Image

Qwen 系列的图像生成模型,200 亿参数,2025 年 8 月以 Apache 2.0 协议开源,以在图像中渲染文字(尤其是中文)见长。

GLM-4.5V 视觉语言模型

智谱于 2025 年 8 月 11 日发布的视觉语言模型,基于 GLM-4.5-Air 微调,可处理图像推理、视频理解、长文档解析与 GUI 任务;智谱称其在 42 个公开基准上取得同规模模型中的最优成绩。

通义千问全模态模型 Qwen3-Omni

Qwen3-Omni 是通义千问团队 2025 年 9 月以 Apache 2.0 协议发布的全模态模型,可接收文本、音频与视频输入,并用文本或多语种语音作答。

Qwen3-Next 新架构模型

Qwen3-Next 是阿里巴巴通义千问团队2025年9月以 Apache 2.0 许可证开源的模型,总参数 800 亿、每个词元仅激活 30 亿,其混合架构后来被用于 Qwen3.5。

GLM-4.6

GLM-4.6 是智谱于 2025 年 9 月下旬发布的开源大语言模型,上下文窗口扩展到 200K tokens,检查点约 3570 亿参数,以 MIT 许可证发布,重点面向编码、推理与智能体任务。

Palmyra-mini(Writer 的 17 亿参数开源模型)

Writer 发布的小型英文模型,17 亿参数,从 Qwen2.5-1.5B 微调而来,采用 Apache 2.0 许可,支持 131,072 词元的上下文,发布时主打小学阶段的数学题。

文心 ERNIE-4.5-21B-A3B-Thinking

百度于 2025 年 9 月开源的深度思考混合专家模型,总参数 210 亿、激活参数 30 亿,支持 128K 上下文,以 Apache 2.0 协议发布。

Palmyra-mini-thinking-b(数学推理变体)

Writer 于 2025 年 9 月发布的小型推理模型,17 亿参数,微调自 Nvidia 的 OpenReasoning-Nemotron-1.5B,在 AMC23、MATH500 等数学基准上表现突出。

DeepSeek-V3.2-Exp 实验模型

DeepSeek 于 2025 年 9 月 29 日发布的实验模型,首次引入 DeepSeek 稀疏注意力以降低长上下文的训练与推理成本,同时开放权重并大幅下调 API 价格。

Jamba Reasoning 3B

AI21 Labs 于 2025 年 10 月 8 日以 Apache 2.0 许可发布的小型开源推理模型,30 亿参数,Transformer 与 Mamba 混合架构,256k 上下文,可在手机、Mac 和 PC 上本地运行。

DeepSeek-OCR 光学压缩模型

DeepSeek-OCR 是一个约 3B 参数的开源文字识别模型,它把长文本渲染成图像、用很少的视觉词元把文字读回来,用来检验「光学压缩」能否代替超长文本上下文。

文心 ERNIE-4.5-VL-28B-A3B-Thinking

百度 2025 年 11 月发布的开源多模态推理模型,总参数 280 亿、每个 token 激活 30 亿,支持「边看图边想」的放大与工具调用,权重按 Apache 2.0 开放。

SAM 3(分割一切模型第三代)

SAM 3 是 Meta 于 2025 年 11 月发布的分割一切模型第三代,可依据简短文字或示例图像,找出并分割某一概念的全部实例。Meta 报告称,它在这项任务上的准确率是现有系统的两倍。

MiniMax-M2.1

MiniMax-M2.1 是 MiniMax 于 2025 年 12 月发布的开源权重模型,是 M2 的后继版本,主打软件工程与多语言编程能力,参数规模 2290 亿(229B)。

Ministral 3

Mistral AI 于 2025 年 12 月发布的小型稠密模型系列,含 3B、8B、14B 三个规模,每个规模都有基础、指令和推理版本,均支持图像理解,以 Apache 2.0 许可发布。

Devstral 2

Devstral 2 是 Mistral AI 2025 年 12 月发布的智能体式编程模型,SWE-bench Verified 得分 72.2%,2026 年 7 月退役。

Molmo 2

Molmo 2 是 Ai2 开放视觉语言模型家族的第二代,2025 年 12 月 11 日发布,把 Molmo 从图像扩展到视频,支持指点、目标跟踪和带时间戳的问答。

NVIDIA Nemotron 3(Nano、Super、Ultra)

NVIDIA Nemotron 3 是 2025 年 12 月宣布的开放混合专家语言模型系列,分 Nano、Super、Ultra 三种规格,最长支持 100 万标记上下文。

Baichuan-M3 医疗大模型

Baichuan-M3 是百川智能的新一代开源医疗增强语言模型,参数为 235B,基于 Qwen3-235B-A22B 构建,采用 Apache 2.0 许可证,2026年1月发布。

MiniMax-M2.7

MiniMax-M2.7 是 MiniMax 于 2026 年 3 月发布的 2290 亿参数大语言模型,面向智能体任务,被公司称为第一个深度参与自身演化的模型。

Phi-4-reasoning-vision-15B

Phi-4-reasoning-vision-15B 是微软于 2026 年 3 月 4 日以 MIT 许可发布的 150 亿参数开放权重视觉语言模型,能在数学、科学问题上展开推理,在图像感知任务上直接作答。

Olmo Hybrid

Ai2 于 2026 年 3 月 5 日发布的全开放 7B 模型,把 Transformer 注意力与门控 DeltaNet 线性循环层混合堆叠,以少 49% 的训练 token 达到 Olmo 3 7B 的 MMLU 准确率。

Mistral Small 4

Mistral Small 4 是 2026 年 3 月发布的开源混合专家模型,把指令跟随、逐步推理和智能体编程合进一个模型,并用一个参数控制推理的深浅。

Kimi K2.6

Kimi K2.6 是月之暗面于 2026 年 4 月发布的开放权重模型,主打长程编程,上下文 262,144 个词元,支持文本与图像输入,Agent Swarm 最多可调度 300 个子智能体。

日日新 U1

日日新 U1(SenseNova U1)是商汤科技 2026 年 4 月发布的开放权重多模态模型,采用 Apache 2.0 协议,不用独立的视觉编码器和 VAE 就能理解和生成图像。

Mistral Medium 3.5

Mistral AI 于 2026 年 4 月发布的 128B 参数开放权重多模态模型,面向智能体与编程任务,曾短暂担任 Le Chat 默认模型,后被 Mistral Large 4 取代。

Stable Audio 3.0

Stability AI 于 2026 年 5 月发布的一组音频生成模型:三个开放权重版本加一个通过 API 提供的大模型,可生成和编辑最长约 6 分 20 秒的音乐与音效。

Step 3.7 Flash

Step 3.7 Flash 是阶跃星辰于 2026 年 5 月 29 日发布的开源权重模型,在 Step 3.5 Flash 的基础上加入了原生图像输入,支持 256K 上下文,采用 Apache 2.0 许可证。

日日新 U1.5

日日新 U1.5 是商汤发布的开源权重模型,80 亿参数,用同一套网络完成图像理解、推理与原生 4K 生成,不依赖独立的视觉编码器或 VAE,以 Apache 2.0 许可开放。

Granite 4.2(IBM 企业级开源模型)

Granite 4.2 是 IBM Granite 团队于 2026 年 8 月 25 日发布的开源权重模型系列,有 3B、8B、30B 三个稠密尺寸,其中 8B 版本带可切换的推理模式,采用 Apache-2.0 许可。

MiniMax-M3.1-Flash

MiniMax-M3.1-Flash 是 MiniMax 的稀疏混合专家模型,约 428B 总参数、23B 激活,支持文本、图像、视频输入,上下文最长 100 万 token。

PLaMo 3 Translate(PFN 翻译专用模型)

PLaMo 3 Translate 是 Preferred Networks(PFN)推出的翻译专用模型系列,有 0.8B、2B、8B、31B 四种规模,覆盖 53 种语言,并提供多种量化格式与社区许可。

英伟达 Nemotron 3.5 Transcribe

Nemotron 3.5 Transcribe 是英伟达于 2026 年 10 月 28 日发布的免费、开放权重语音转写模型。它能处理长达一小时的录音,支持最多 40 种语言的转写,并可区分最多 8 位说话人。

文心 ERNIE 5.5 Flash Base

文心 ERNIE 5.5 Flash Base 是百度于 2026 年 11 月 5 日公开的基座模型检查点:纯文本的稀疏混合专家模型,总参数 2800 亿、每 token 激活 140 亿,定位是供微调而非开箱即用的助手。

Codestral Mamba

Codestral Mamba 是 Mistral AI 于 2024 年 7 月发布的 7B 开源代码模型,用 Mamba 状态空间架构取代 Transformer,以获得线性时间的推理开销。

Mathstral

Mathstral 是 Mistral AI 于 2024 年 7 月 16 日发布的 70 亿参数数学模型,基于 Mistral 7B 构建,专攻数学与 STEM 推理,以 apache-2.0 许可开放权重,现已被列为弃用模型。

NVLM 1.0

NVLM 是 NVIDIA 的多模态大语言模型系列,论文于 2024 年 9 月发表;旗舰模型 NVLM-D-72B 随后以开放权重形式发布,限非商业用途。

Llama-3.1-Nemotron-70B-Instruct

NVIDIA 于 2024 年 10 月发布,基于 Meta 的 Llama-3.1-70B-Instruct 进一步训练,主打更有帮助的回答,发布时三项自动对齐基准均列第一。

NVIDIA Nemotron Nano 2

NVIDIA Nemotron Nano 2 是一款 9B 参数的小型推理模型,采用 Mamba 与 Transformer 混合架构,主打长上下文推理下的高吞吐,并开放了权重与大部分训练数据。

Voxtral TTS

Voxtral TTS 是 Mistral AI 于 2026 年 3 月发布的第一个文本转语音模型,约 40 亿参数,支持 9 种语言、最短 3 秒参考音频的音色克隆,权重开放但限非商业使用。

专题内事件