LM Studio 加载 GGUF 模型失败？Runtime 运行时修复指南

GGUF 模型加载失败通常是 LM Studio 的 llama.cpp Runtime 没装好，不是模型本身的问题。本文提供从 Runtime 安装到 CLI 修复的完整排查步骤。

问题原因

GGUF 模型需要 llama.cpp Runtime 来加载。LM Studio 官方文档明确写了：GGUF 走 llama.cpp，Runtime 可以在 Mac：⌘ + Shift + R / Windows、Linux：Ctrl + Shift + R 里管理。

LM Studio 的 Runtime 本质是单独打包的推理引擎，不一定随主程序完整安装；离线或首次安装时可能会缺。

在 LM Studio 里按：

然后找到 llama.cpp / GGUF runtime。

根据你的平台选择：

Mac Apple Silicon：

安装 Metal llama.cpp

Windows / Linux：

优先装 CUDA / Vulkan / CPU llama.cpp

没有独显就装 CPU 版也可以，只是速度较慢。

Runtime 装完以后，直接重启 LM Studio，再重新加载 GGUF 模型。

如果你装了 lms CLI，可以直接执行：

bash

lms runtime ls       # 列出可用的 Runtime
lms runtime get      # 下载当前选择的 Runtime
lms runtime update   # 更新 Runtime
lms runtime select   # 切换 Runtime

这些命令用于列出、下载、切换和更新 LM Studio 的推理运行时。

如果你是 Windows x64，CPU 必须支持 AVX2，这是 LM Studio 的官方系统要求。老电脑不支持 AVX2 时，可能出现模型加载失败或 Runtime 不可用。

如果模型是你手动下载的，不要直接放到任意目录。建议用 lms import 导入到正确位置：

bash

lms import /path/to/model.gguf

最可能的解决方案就是：打开 Runtime 页面（⌘/Ctrl + Shift + R），安装或更新 llama.cpp Runtime，然后重启 LM Studio。