RTX 4090

24 GB · single-card node · $2,999 カード · $4,199 リグ

選定の結論

RTX 4090 は実測生成 109.3 tok/s・ローカル単価 $0.056/M tok(実測 28 台中 #1 位)、フル稼働時の回収目安は 434 日です。

  • 生成速度 #4/29 位 · 消費電力 #23 位(550 W)。
  • 初期費用を抑えたい場合の比較対象: RTX 5080 ($2,800)
  • 生成速度を重視する場合の比較対象: RTX PRO 6000 Blackwell (171.1 tok/s)

動作判定 → · 用途別 → · 方法 →

ワークロード

適合根拠
RTX 4090
single-card node
24 GB4,000109.3余裕550 W$4,19975.8$0.056$1.98$11.67433 日中央値

選択中

RTX 4090

24 GB · single-card node

読み込み tok/s
4,000
生成 tok/s
109.3
電力
550 W
M tok/日
75.8
ローカル $/M
$0.056
電気代/日
$1.98
API 価値/日
$11.67
回収
433 日

ハードウェアページ · 根拠を見る

FAQ

RTX 4090 のローカルLLM実行速度は?
RTX 4090(24 GB)は Qwen3.8-Flash-Next で生成 109.3 tok/s・読込 4,000 tok/s を実測しています(2026-10-07 時点)。
RTX 4090 はクラウドAPIよりお得ですか?
ローカル単価 $0.056/M tok で、1日24時間稼働なら 434 日、1日4時間稼働なら 2,599 日で回収できます。稼働率が最大の判断軸です。