RTX 3090

24 GB · single-card node · $1,500 卡价 · $2,700 整机

选购决策结论

RTX 3090 实测生成速率 86.5 tok/s,本地单位成本 $0.060/百万 token(在 28 台实测配置中成本排第 #4),满载回本周期 410 天。

  • 生成速度排第 #6/29 · 整机功耗排第 #21(500 W)。
  • 若想降低前期购机预算,可对比 RTX 5070 Ti ($2,380)
  • 若需要更快的交互生成速度,可对比 RTX PRO 6000 Blackwell (171.1 tok/s)

显存计算器 → · 场景 → · 方法 →

你怎么用

装得下吗来源
RTX 3090
single-card node
24 GB2,09486.5宽裕500 W$2,70054.5$0.060$1.80$8.39410 天实测

当前硬件

RTX 3090

24 GB · single-card node

阅读 tok/s
2,094
生成 tok/s
86.5
整机功率
500 W
每天产出
54.5
本地成本
$0.060
电费/天
$1.80
每天省
$8.39
回本
410 天

看详情 · 查看来源

FAQ

RTX 3090 跑本地大模型有多快?
RTX 3090(24 GB)在 Qwen3.8-Flash-Next 上实测生成速率为 86.5 tok/s,提示词读取速率为 2,094 tok/s(数据快照 2026-10-07)。
买 RTX 3090 本地部署比调云端 API 划算吗?
按本地成本 $0.060/百万 token 计算,RTX 3090 在 24 小时满载下需 410 天回本,若每天使用 4 小时则需 2,458 天——利用率是核心决定因素。