你的电脑能跑大模型吗？30 秒就知道

事情是这样的。

我最近不是天天在玩各种本地大模型嘛，什么 Qwen、Llama、DeepSeek 的。但每次换一台电脑，我就得折腾半天：查显卡型号、算显存够不够、找对应量化版本......

直到我发现了这几个网站，简直是救了我的老命。

canirun.ai（最推荐，中文友好）

一打开就用浏览器自动检测硬件，然后直接给你列出来几十个主流模型能不能跑。

会显示每个模型的显存占用百分比、性能评分（Runs great / Decent / Barely runs / Too heavy）、上下文长度、量化选项。

普通电脑（6-8GB 显存）跑个小模型完全没问题，大模型会直接标红告诉你跑不了。

localllm.run（功能最全）

这个更夸张，支持搜索模型、GPU、使用场景。还能对比最多 4 个模型。

每周更新模型库，100+ 个热门模型都给你分好类了：5GB 以下、8GB、12GB+ 各有哪些。

也有安装指南，Ollama、LM Studio、llama.cpp 怎么装都给你写好了。

onyx.app（速度预估最直观）

这个特别有意思，它不只是告诉你能不能跑，还会预估 tokens/秒 的速度。

你想知道「跑起来有多快」，看这个最直观。

caniusellm.com（简单直接）

自动检测硬件后，直接告诉你显存够不够，推荐哪个量化版本（INT8 还是 INT4）。

还有一个硬核玩法

如果你想自己算，可以用这两个计算器：

• apxml.com/tools/vram-calculator ， 输入模型和显卡，精确算显存需求
• Hugging Face 官方空间 ， 输入模型 ID 就出结果

我的感受

这些网站是真的好用。我现在每次换电脑，第一件事就是打开 canirun.ai，30 秒就知道能跑哪些模型了。

普通笔记本（6-8GB 显存）推荐先试 Qwen3-4B / 7B、Llama 3.1 8B、Phi-3/4 Mini，基本都能流畅跑。

想跑 13B+ 的话，建议 12GB+ 显存 + Q4/Q5 量化。

与其天天纠结能不能跑，不如直接点进去试试。30 秒的事。

---

本文推荐几个可以自动检测电脑硬件并推荐适合本地运行的大模型的网站，包括 canirun.ai、localllm.run 等工具。

在 AI 技术快速迭代的今天，保持持续学习的能力比掌握任何特定的技术都更重要。理解底层原理可以帮助你在遇到新技术时更快地上手，可以在不同的技术方案之间做出更明智的选择。建议开发者建立自己的技术框架，而不是追逐每一个新的工具和框架。实践是最好的学习方式，在真实项目中应用新学到的技术，遇到问题并解决，这种经历比任何教程都更有价值。定期整理和复盘也是很好的习惯。将学到的知识归档整理，形成自己的知识库。当需要用到某个技术时，可以直接从自己的知识库中找到相关的参考，而不是从零开始搜索。

技术的价值不在于它有多前沿，而在于它能在多大程度上解决实际问题。AI 技术的快速迭代不是用来追赶的潮流，而是用来解决业务痛点的工具箱。在实际应用中，有时候简单的方案反而最有效。一个 RAG 系统用了最复杂的检索策略但文档处理没做好，效果不如一个文档处理完善但检索策略简单的系统。一个 Agent 系统用了最贵的模型但 prompt 设计粗糙，效果不如一个精心设计 prompt 的普通模型。建议在追求技术先进性之前，先把基础工作做扎实。文档清洗、数据标注、评测体系、监控告警，这些看似基础的工作，往往是决定 AI 项目成败的关键。