LM Studio

LM Studio 是一款适用于 macOS、Windows 和 Linux 的桌面应用，让用户把大语言模型（large language model，LLM）下载到自己电脑上运行和试验，而不是把请求发送到远端服务。^[1]

应用里有什么

它把一整套工具收在同一个窗口里：与模型对话的聊天界面、从 Hugging Face 搜索并下载模型的入口、在本机监听、接口形式类似 OpenAI 的本地服务器，以及管理本机已存模型及其配置的系统。^[1] 把这些放在一个应用里的意义在于，用户不必自己拼装推理引擎、模型下载器和服务器。

模型怎么跑起来

在三个受支持的平台上，LM Studio 都用 llama.cpp 执行模型，模型文件采用 GGUF 格式；在以 Apple Silicon 为核心的 Mac 上，它还可以额外使用苹果的 MLX。这些执行后端在应用内被统一当作「LM Runtimes」来管理。^[1]

llama.cpp 是一个在普通硬件上运行语言模型的开源推理引擎，GGUF 则是存放这类模型的文件格式，通常以压缩（量化）形式保存，好让模型塞进个人电脑实际拥有的内存里。因为推理发生在用户自己的机器上，模型跑的是本地处理器和显卡，而不是数据中心，请求也无需离开这台电脑。

离线文档与本地接口

一切都跑在本地，意味着可以用这个应用完全离线地与自己的文档对话，也就是检索增强生成（retrieval-augmented generation，RAG）的流程：系统先从文档中取回相关段落，连同问题一起交给模型，于是回答可以建立在这些材料上，而不只依赖模型训练时记住的内容。^[1][2]

LM Studio 还把已加载的模型开放给其他程序使用。它提供兼容 OpenAI 的接口（OpenAI Compatibility API），以及面向本地模型的测试版 REST 接口，于是原本针对云端对话服务编写的软件可以把地址改指向这台机器。^[1][2] 文档中给出的 REST 调用地址是 `http://localhost:1234/api/v0/chat/completions`，从地址本身就能看出服务器监听在用户自己的电脑上。^[1]

版本与授权

这款桌面应用是专有、闭源的。^[1] 其文档的更新日志按版本列出发布记录，例如 2025 年 1 月 30 日发布的 LM Studio 0.3.9，为通过 API 请求加载的模型增加了空闲存活时间（TTL）和自动清除（auto-evict）设置，使模型在闲置一段设定时间后可以自动卸载。^[1]

它在本地推理工具中的位置

LM Studio 属于把模型推理搬到消费级硬件上的那一类工具。它有辨识度的组合是图形界面、内置的模型搜索与管理，以及兼容 OpenAI 的本地接口——这让现成的工具可以把笔记本上运行的模型当作云端服务来对待。本地路线的代价是：能跑什么模型受限于眼前这台机器的内存和算力；而应用本身并非开源，内部实现无法像开源推理引擎那样被查看和修改。^[1]