外观
哪些 Qwen 模型能在本地部署?
一句话回答:Qwen-Image-Edit 门槛最低,用量化一键包连 3060 老显卡都能跑(速度慢);Qwen3-Next 需要至少 40G 显存或 64G 以上统一内存的 Mac;Qwen3-VL(235B)和 Qwen3-Omni(30B)对普通个人设备基本无缘,建议走 API。
各模型本地部署门槛
| 模型 | 参数规模 | 本地可行性 |
|---|---|---|
| Qwen-Image-Edit-2509 | — | ✅ 有量化一键包,3060 级老显卡可跑,速度慢 |
| Qwen3-Next | 80B-A3B | ⚠️ 至少 40G 显存;4090 跑不动;Mac 需 64G+ 统一内存 |
| Qwen3-Omni | 30B | ❌ 普通游戏显卡跑不了 |
| Qwen3-VL | 235B-A22B | ❌ 基本无缘本地,走 API |
| Qwen3-Max | ~1T | ❌ 不开源 |
跑不动怎么办:API 替代路线
多模态模型本地部署一直很难——上一代 Qwen2.5-VL 分了 3B/32B/72B 多个版本,普通显卡显存仍然不够。实际可行的做法是用官方 API:一个真实案例是给虚拟主播开源项目接入 VL 模型的 API,让 AI 能"看到"屏幕画面并实时交流。
值得本地跑的场景
- 修图:Image-Edit 是少数普通人真能在本地跑起来的图像模型,隐私敏感的照片(如家人老照片修复)不用上传云端
- 本地对话/编程/问答:如果硬件够(40G+ 显存),Qwen3-Next 是本地性能不错的选择,80B-A3B 稀疏架构能达到比 32B 稠密模型快 10 倍的推理速度
常见误区
- "4090 是顶级卡,什么都能跑" —— Qwen3-Next 需要 40G 显存,单张 4090(24G)跑不动;Mac 统一内存 64G 以上反而是可行方案。
- "参数小 = 能力弱不值得跑" —— 稀疏激活(A3B)模型激活参数少、速度快,日常对话问答性能并不差。
相关条目
作者:人工大黑 · 转写自视频《讲讲这两天Qwen发的这么多模型,普通人咋用?》
测试时间 2025 年 9 月,模型迭代快,结论有时效性。
