RTX 4090

24 GB · single-card node · $2,999 卡价 · $4,199 整机

选购决策结论

RTX 4090 实测生成速率 109.3 tok/s,本地单位成本 $0.056/百万 token(在 28 台实测配置中成本排第 #1),满载回本周期 434 天。

  • 生成速度排第 #4/29 · 整机功耗排第 #23(550 W)。
  • 若想降低前期购机预算,可对比 RTX 5080 ($2,800)
  • 若需要更快的交互生成速度,可对比 RTX PRO 6000 Blackwell (171.1 tok/s)

显存计算器 → · 场景 → · 方法 →

你怎么用

装得下吗来源
RTX 4090
single-card node
24 GB4,000109.3宽裕550 W$4,19975.8$0.056$1.98$11.67433 天实测

当前硬件

RTX 4090

24 GB · single-card node

阅读 tok/s
4,000
生成 tok/s
109.3
整机功率
550 W
每天产出
75.8
本地成本
$0.056
电费/天
$1.98
每天省
$11.67
回本
433 天

看详情 · 查看来源

FAQ

RTX 4090 跑本地大模型有多快?
RTX 4090(24 GB)在 Qwen3.8-Flash-Next 上实测生成速率为 109.3 tok/s,提示词读取速率为 4,000 tok/s(数据快照 2026-10-07)。
买 RTX 4090 本地部署比调云端 API 划算吗?
按本地成本 $0.056/百万 token 计算,RTX 4090 在 24 小时满载下需 434 天回本,若每天使用 4 小时则需 2,599 天——利用率是核心决定因素。