ByteNoteByteNote

字节笔记本

2026年4月24日

你的电脑能跑大模型吗?30 秒就知道

API中转
¥120

你的电脑能跑大模型吗?30 秒就知道

事情是这样的。

我最近不是天天在玩各种本地大模型嘛,什么 Qwen、Llama、DeepSeek 的。但每次换一台电脑,我就得折腾半天:查显卡型号、算显存够不够、找对应量化版本......

直到我发现了这几个网站,简直是救了我的老命。

canirun.ai(最推荐,中文友好)

一打开就用浏览器自动检测硬件,然后直接给你列出来几十个主流模型能不能跑。

会显示每个模型的显存占用百分比、性能评分(Runs great / Decent / Barely runs / Too heavy)、上下文长度、量化选项。

普通电脑(6-8GB 显存)跑个小模型完全没问题,大模型会直接标红告诉你跑不了。

localllm.run(功能最全)

这个更夸张,支持搜索模型、GPU、使用场景。还能对比最多 4 个模型。

每周更新模型库,100+ 个热门模型都给你分好类了:5GB 以下、8GB、12GB+ 各有哪些。

也有安装指南,Ollama、LM Studio、llama.cpp 怎么装都给你写好了。

onyx.app(速度预估最直观)

这个特别有意思,它不只是告诉你能不能跑,还会预估 tokens/秒 的速度。

你想知道「跑起来有多快」,看这个最直观。

caniusellm.com(简单直接)

自动检测硬件后,直接告诉你显存够不够,推荐哪个量化版本(INT8 还是 INT4)。

还有一个硬核玩法

如果你想自己算,可以用这两个计算器:

  • apxml.com/tools/vram-calculator —— 输入模型和显卡,精确算显存需求
  • Hugging Face 官方空间 —— 输入模型 ID 就出结果

我的感受

这些网站是真的好用。我现在每次换电脑,第一件事就是打开 canirun.ai,30 秒就知道能跑哪些模型了。

普通笔记本(6-8GB 显存)推荐先试 Qwen3-4B / 7B、Llama 3.1 8B、Phi-3/4 Mini,基本都能流畅跑。

想跑 13B+ 的话,建议 12GB+ 显存 + Q4/Q5 量化。

与其天天纠结能不能跑,不如直接点进去试试。30 秒的事。


本文推荐几个可以自动检测电脑硬件并推荐适合本地运行的大模型的网站,包括 canirun.ai、localllm.run 等工具。

分享: