本地部署与硬件资源计算器

配置您想运行的 DeepSeek 模型参数，快速估算显存需求，并获取一键部署命令和硬件购买建议。

部署配置

模型规模 (Model Size)

量化精度 (Quantization)

推理框架 (Framework)

deployment-estimate.sh

预估显存 (VRAM)

24 GB

推荐显卡/硬件

1x RTX 3090/4090 (24GB) 或 Mac Studio 64GB

预估速度 (单并发)

受硬件、上下文长度和并发影响，需以实测为准

框架提示

Ollama 适合个人本地快速体验，请先确认模型标签存在。

启动命令

ollama run deepseek-r1:32b

推荐使用 Mac Studio (M2 Max 64GB) 进行开发，统一内存优势可轻松跑起 32B/70B 量化模型。或者组装单/双 RTX 4090 台式机。

考虑 4x或8x RTX 4090 服务器（注意供电和散热），或租用云端 A800/H800 节点。如果是跑 671B MoE，可以使用 KTransformers 结合双路 EPYC CPU方案降低成本。