TellWorldAI 世界档案
问档案English

首页›动态›里程碑

里程碑生成式 AI 普及

llama.cpp v1.0.0 发布

2026 年 11 月 13 日,Hugging Face 宣布 llama.cpp 与 ggml 发布 v1.0.0,并写明接口版本规则。llama.cpp 可在多种硬件上运行多模态大模型。

一块结实的基石上站着一只发光的小羊驼,手机、迷你主机和显卡的线缆都接到这块基石上。

背景

2026 年 11 月 13 日,Hugging Face 发表了一篇博客文章,标题为《llama.cpp v1.0.0:为本地 AI 生态打下更坚实的基础》。文章称,该项目自创立以来已有 3.5 年,许多下游应用已经依赖它。[1]

发布了什么

文章宣布发布两个库:llama.cpp v1.0.0 和 ggml v1.0.0。文章把 ggml 描述为面向机器学习的张量库(tensor library)。[1]

版本规则

下游开发者依赖库的接口,因此文章认为,灵活而稳定的 API 最为重要。两个库都会通过主版本号的升级来体现 API 和 ABI(应用二进制接口,即编译后的程序调用库代码时遵循的底层约定)的不兼容变化。[1]

文章列出了三条语义化版本规则:破坏公共 C API 的改动;向后兼容的新功能、后端更新、模型支持或 API 新增;不改变 API 的错误修复。[1]

llama.cpp 的作用

文章把 llama.cpp 描述为一种在多种硬件上运行多模态大模型的方式,硬件范围从消费级的本地机器到高端企业服务器。它依靠量化(以更低的数值精度存储模型权重,以节省内存)、经过优化的后端,以及可移植的 C/C++ 实现。[1]

文章称,其底层机器学习引擎设计为可在几乎任何硬件上运行,每个后端都可以编译为动态库,并在运行时按需加载。[1]

文章还说,llama.cpp 支持 150 多种架构变体,以及所有主流的投机解码(speculative decoding,即由小模型先提出候选词元、再由大模型核对,以加快生成速度)方法。[1]

测试与硬件

文章提到,Hugging Face 的技术让团队能够扩展持续集成(CI,即自动化测试系统)的容量。自托管的 runner 支持 NVIDIA、AMD、Qualcomm、Arm、IBM 和 Intel 的硬件。[1]

优先事项

团队表示,在把大语言模型纳入开发流程的同时,会把保持高质量的代码库和对架构的掌控放在首位。[1]

来源

  1. 1

引用本页: llama.cpp v1.0.0 发布. TellWorld, https://www.tellworld.net/zh/news/llama-cpp-v1-2026. 更新于 2026-11-15

相关动态