字
字节笔记本
2026年9月1日
Unsloth：7.5 万星开源桌面应用，本地跑模型和训练模型一个 App 全包
API中转
¥120
本文介绍 unslothai 开源的 Unsloth（7.5 万 stars，Apache-2.0）——第一个"跑模型 + 训练模型"合体的桌面应用：下载一个原生 App，本地跑 LLM/GGUF/MLX/扩散/语音模型，也能直接微调它们，Windows/macOS/Linux/WSL 全平台。
项目简介
Unsloth 以高效微调框架起家（开源社区里"显存不够也想微调"的标配方案），如今演进成了完整的桌面应用：左边是 Open WebUI 式的对话界面，右边是训练工作台。最大亮点是把"运行"和"训练"合进了同一个本地环境——大多数方案这两件事要装两套工具。
核心特性
- 模型广度：LLM、MLX、GGUF、扩散模型（图像/视频生成）、embedding、音频模型都支持，官方适配 Qwen3.8、GLM-5.3-Flash、Kimi K3、MiniMax-H3、DeepSeek-V4、Gemma 4 等热门模型
- 本地模型接 agent：支持把本地模型接到 Claude Code、Codex 和 MCP（含工具调用、代码执行），本地模型也能当干活的后端
- 搜索与 RAG：内置私密无限制的 web 搜索、深度研究、自动上下文压缩（滚动窗口）和 RAG
- 硬件覆盖：NVIDIA、AMD、Intel GPU、Apple Silicon、CPU，外加 Vulkan 后端，多 GPU 配置也支持
- 远程访问：局域网直连，或经 Cloudflare HTTPS 安全暴露到公网任意设备
- 训练：保留 Unsloth 起家的低显存高效微调能力，含量化（GGUF 导出）与微调工作流
安装指南
桌面原生应用直接下载：Windows exe / macOS dmg / Ubuntu deb / Linux AppImage，见 GitHub Releases。
命令行党：
bash
# macOS / Linux / WSL
curl -fsSL https://unsloth.ai/install.sh | sh适用场景
- 想在一台机器上"既能聊也能练"的全栈本地玩家
- 数据敏感环境：模型、训练数据、RAG 语料全部不出本机
- 给 Claude Code/Codex 配本地模型后端的开发者
注意事项
- 训练仍吃显存，小显卡建议用官方量化/LoRA 流程
- macOS dmg 未做 Apple 公证，首次打开需移除隔离属性
- 模型支持列表迭代快，装新模型前看 docs 的 models 页
项目链接
分享: