RTX 3090 Ti
24 GB · single-card node · $1,574 卡价 · $2,774 整机
选购决策结论
RTX 3090 Ti 实测生成速率 93.1 tok/s,本地单位成本 $0.063/百万 token(在 28 台实测配置中成本排第 #7),满载回本周期 404 天。
- 生成速度排第 #5/29 · 整机功耗排第 #24(600 W)。
- 若想降低前期购机预算,可对比 RTX 5070 Ti ($2,380)
- 若需要更快的交互生成速度,可对比 RTX PRO 6000 Blackwell (171.1 tok/s)
你怎么用
| 装得下吗 | 来源 | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| RTX 3090 Ti single-card node | 24 GB | ~2,255.1 | ~93.1 | 宽裕 | ~600 W | $2,774 | 58.6 | $0.063 | $2.16 | $9.03 | 404 天 | 估算 |
当前硬件
RTX 3090 Ti
24 GB · single-card node · hardware-scaled rate estimate
阅读 tok/s
~2,255.1生成 tok/s
~93.1整机功率
~600 W每天产出
58.6本地成本
$0.063电费/天
$2.16每天省
$9.03回本
404 天FAQ
- RTX 3090 Ti 跑本地大模型有多快?
- RTX 3090 Ti(24 GB)在 Qwen3.8-Flash-Next 上实测生成速率为 93.1 tok/s,提示词读取速率为 2,255 tok/s(数据快照 2026-10-07)。
- 买 RTX 3090 Ti 本地部署比调云端 API 划算吗?
- 按本地成本 $0.063/百万 token 计算,RTX 3090 Ti 在 24 小时满载下需 404 天回本,若每天使用 4 小时则需 2,422 天——利用率是核心决定因素。