RTX 5090

32 GB · single-card node · $7,300 卡价 · $8,500 整机

选购决策结论

RTX 5090 实测生成速率 168.4 tok/s,本地单位成本 $0.062/百万 token(在 28 台实测配置中成本排第 #6),满载回本周期 558 天。

  • 生成速度排第 #2/29 · 整机功耗排第 #25(700 W)。
  • 若想降低前期购机预算,可对比 RTX 4090 ($4,199)
  • 若需要更快的交互生成速度,可对比 RTX PRO 6000 Blackwell (171.1 tok/s)

显存计算器 → · 场景 → · 方法 →

你怎么用

装得下吗来源
RTX 5090
single-card node
32 GB5,803168.4宽裕700 W$8,500115.4$0.062$2.52$17.77558 天实测

当前硬件

RTX 5090

32 GB · single-card node

阅读 tok/s
5,803
生成 tok/s
168.4
整机功率
700 W
每天产出
115.4
本地成本
$0.062
电费/天
$2.52
每天省
$17.77
回本
558 天

看详情 · 查看来源

FAQ

RTX 5090 跑本地大模型有多快?
RTX 5090(32 GB)在 Qwen3.8-Flash-Next 上实测生成速率为 168.4 tok/s,提示词读取速率为 5,803 tok/s(数据快照 2026-10-07)。
买 RTX 5090 本地部署比调云端 API 划算吗?
按本地成本 $0.062/百万 token 计算,RTX 5090 在 24 小时满载下需 558 天回本,若每天使用 4 小时则需 3,345 天——利用率是核心决定因素。