RTX 3090
24 GB · single-card node · $1,500 卡价 · $2,700 整机
选购决策结论
RTX 3090 实测生成速率 86.5 tok/s,本地单位成本 $0.060/百万 token(在 28 台实测配置中成本排第 #4),满载回本周期 410 天。
- 生成速度排第 #6/29 · 整机功耗排第 #21(500 W)。
- 若想降低前期购机预算,可对比 RTX 5070 Ti ($2,380)
- 若需要更快的交互生成速度,可对比 RTX PRO 6000 Blackwell (171.1 tok/s)
你怎么用
当前硬件
RTX 3090
24 GB · single-card node
阅读 tok/s
2,094生成 tok/s
86.5整机功率
500 W每天产出
54.5本地成本
$0.060电费/天
$1.80每天省
$8.39回本
410 天FAQ
- RTX 3090 跑本地大模型有多快?
- RTX 3090(24 GB)在 Qwen3.8-Flash-Next 上实测生成速率为 86.5 tok/s,提示词读取速率为 2,094 tok/s(数据快照 2026-10-07)。
- 买 RTX 3090 本地部署比调云端 API 划算吗?
- 按本地成本 $0.060/百万 token 计算,RTX 3090 在 24 小时满载下需 410 天回本,若每天使用 4 小时则需 2,458 天——利用率是核心决定因素。