Windows 上用 LM Studio 跑 Qwen3

这篇适合谁，读完能做到什么

适合用 Windows 电脑、习惯图形界面、想在本机跑通 Qwen3-8B 的读者。读完你能在 LM Studio 里下载并加载模型，直接对话；如果网络不好，能手动放置模型文件；还能打开 LM Studio 的本地服务，用几行 Python 调用它。

LM Studio 是什么，和 Ollama 有什么不同

LM Studio 是一个在本地运行大语言模型的桌面应用，带图形界面。它的界面比 Ollama 更丰富，支持的模型生态也很完整，而且适合在没有网络的环境下使用^[1]。Ollama 主要靠命令行管理模型，LM Studio 则把搜索、下载、对话和开服务都放在界面里完成。

准备：电脑配置和 Python 环境

LM Studio 会根据你电脑的配置推荐模型。作者用的是 RTX 4070 Ti 显卡，可以运行各种规格的模型^[1]。如果显存只有 8 GB，推荐使用量化更多的 Q4 或 Q3 文件，下文会讲到。

如果要调用本地接口，还需要 Python 3.7 以上版本，并安装 openai 库：

pip install Openai

这里的 openai 库只是用来和本地服务通信，不需要 OpenAI 的账号。

第一步：安装 LM Studio 并下载模型

打开 LM Studio 官网 lmstudio.ai，点击 download 下载安装包。安装过程一路点击「下一步」即可^[1]。

启动后，点击左下角的放大镜图标搜索模型，输入 Qwen3-8B，找到对应版本后选择带绿色小火箭标记的那一个。LM Studio 会根据硬件给每个模型打标记：绿色火箭表示运行流畅，没有火箭表示会比较慢，红色标记表示完全无法运行^[1]。选好后，点击右下角的下载按钮^[1]。

第二步：网络不好时离线安装模型

下载速度慢时，可以改用魔搭社区（ModelScope）的 GGUF 文件，手动放进 LM Studio 的模型目录。

先在 LM Studio 里找到模型的存储路径，然后在 lmstudio-community 目录下新建一个名为 Qwen3-8B-GGUF 的文件夹^[1]。

接着打开 ModelScope 上的 unsloth/Qwen3-8B-GGUF 仓库，地址是 https://www.modelscope.cn/models/unsloth/Qwen3-8B-GGUF/files^[1]。文件要选哪一个，取决于显存：

显存较大，作者在 RTX 4070 Ti 上选的是 Q8 量化文件 Qwen3-8B-Q8_0.gguf^[1]。
8 GB 显存，推荐 Q4 文件 Qwen3-8B-Q4_K_M.gguf，或者 Q3 文件 Qwen3-8B-Q3_K_M.gguf^[1]。

下载完成后，把文件放进 Qwen3-8B-GGUF 文件夹。回到 LM Studio，就能看到模型已经出现在列表里了^[1]。

第三步：在界面里和 Qwen3 对话

点击黄色的对话标签，再点击「Select a model to load」（选择一个模型启动），在下拉列表里选 Qwen3-8b 即可开始对话^[1]。

第四步：打开本地服务，用 Python 调用

先在 LM Studio 里打开绿色的 terminal 模块，点击 Settings，然后打开「Serve on Local Network」选项^[1]。

接着选择并加载模型。右侧区域会显示当前模型的名称和服务地址，调用时要用到它们^[1]。

调用代码如下。base_url 指向本地服务，api_key 可以随便填，model 填写右侧显示的模型名：

from openai import OpenAI

# Point to the local server
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

completion = client.chat.completions.create(
  model="qwen3-8b",
  messages=[
    {"role": "system", "content": "你是一个回答我日常问题的ai辅助机器人"},
    {"role": "user", "content": "如何做宫保鸡丁。"}
  ],
  temperature=0.7,
)

print(completion.choices[0].message.content)

代码里的 qwen3-8b 是模型名，localhost:1234 适用于在本机调用。如果是局域网里的另一台电脑来调用，把地址换成 LM Studio 里显示的局域网 IP 即可^[1]。

示例把 system 消息设为一个日常问答助手，用户的问题是「如何做宫保鸡丁」，temperature 设为 0.7^[1]。

运行结果的开头是一个 <think> 块，里面是模型的推理过程，之后才是正式回答^[1]。

常见问题

模型列表里找不到 Qwen3-8B？ 先确认搜索关键词是否正确，再看模型旁的标记是不是红色。红色表示电脑完全无法运行，选择更小的量化版本^[1]。

手动放的模型文件在 LM Studio 里看不到？ 检查文件是否放在 Qwen3-8B-GGUF 文件夹里，并且文件名是完整的 .gguf 文件，然后回到 LM Studio 查看^[1]。

局域网里的电脑连不上？ 确认已经打开「Serve on Local Network」，并使用 LM Studio 里显示的局域网 IP，而不是 localhost^[1]。

**回答里出现了很长的 <think> 内容？** 这是思考模式的输出格式，回答在它之后^[1]。

限制

以 Qwen3-8B 为例，8 GB 显存的电脑需要选择较小的量化文件。LM Studio 的推荐标记是根据硬件给出的参考，实际速度还要看具体的电脑。离线安装时，ModelScope 上的文件名和版本可能随时间变化，下载前请以页面上的实际文件为准。另外，本文的代码只演示了一次对话请求，没有包含错误处理。