ローカルLLM 動作判定・VRAM/RAM計算機

GPUプリセットを選ぶかVRAM・システムRAM・コンテキスト長(8K–128K)を入力すると、動作可能な量子化、KVキャッシュ使用量、推定速度、API比較コストを即座に判定します。

動作可能 — お使いの構成で Qwen3.8-Flash-Next をローカル実行できます。

推奨量子化
Q2_0
推定生成速度
130.1 tok/s (実測値)
KVキャッシュ目安
~4 GB (32K)
ローカル単価
$0.102/M
回収目安
1104 日
量子化判定必要VRAM必要RAM容量推定生成
Q2_0
Fastest quant; great for 48 GB RAM systems.
最推奨15 GB51 GB~70 GB~130.1 tok/s
IQ2_XS
Recommended default for 64 GB RAM; balance of speed and quality.
RAM不足15 GB67 GB~72 GB—
IQ3_XXS
Smarter than IQ2; still fits most 64 GB builds.
RAM不足15 GB67 GB~74 GB—
IQ3_S
Best quality that still runs on 64 GB; slowest of the IQ line.
RAM不足15 GB67 GB~76 GB—
Coder
Coding-focused variant; fits 32 GB RAM (weaker on CJK general text).
動作OK15 GB35 GB~68 GB~76.1 tok/s
Unsloth UD-IQ4_XS
~4-bit Unsloth pack; needs ~80 GB RAM or partial SSD offload.
RAM不足15 GB83 GB~94 GB—

VRAM・RAM容量別の動作目安一覧(32Kコンテキスト時)

上の計算機と同じ量子化要件とKVキャッシュ計算式で算出した早見表です。

ハードウェア帯GPU VRAM / ユニファイドメモリシステムRAM推奨量子化推定生成
RTX 4060 8GB / RTX 30708 GB32 GB12 GB+ VRAM必要—
RTX 4070 / RTX 5070 12GB (32 GB RAM)12 GB32 GB12 GB+ VRAM必要—
RTX 4070 / RTX 5070 12GB (64 GB RAM)12 GB64 GBQ2_0~76 tok/s
RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB16 GB64 GBQ2_0~108.5 tok/s
RTX 4090 / RTX 3090 / RX 7900 XTX24 GB64 GBQ2_0~113.9 tok/s
RTX 5090 / 2× RTX 5060 Ti 16GB32 GB96 GBUnsloth UD-IQ4_XS~97 tok/s
Mac Studio M5 Max / Mac mini M5 Pro 64 GB64 GB*64 GBCoder~36.1 tok/s
Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+128 GB*128 GBUnsloth UD-IQ4_XS~43.3 tok/s

* ユニファイドメモリはOS共有のため約82%をモデルとKVキャッシュに割り当てて計算しています。 用途別 → · ベンチマーク → · GPU → · 方法 →

FAQ

Strataをローカル実行するための最低VRAM・RAMは?
最低構成はVRAM 12 GB+システムRAM 32 GB(Coder版)、推奨デフォルトのIQ2_XSはVRAM 12 GB+RAM 64 GBです。
RTX 4060など8 GB VRAMのGPUで動きますか?
いいえ。8 GB専用VRAMはQwen3.8-Flash-Nextの最低ライン12 GBを下回るため、12 GBまたは16 GB以上のGPUが必要です。
128Kコンテキストでは追加メモリがどれくらい必要ですか?
128KコンテキストではKVキャッシュに約14 GB必要です(8K時は約1.5 GB)。長文用途には64–96 GB RAMまたは128 GBユニファイドメモリが推奨されます。
Apple SiliconとRTX 4090はどちらを選ぶべきですか?
大容量メモリと静音性ならApple Silicon(64–512 GB)、生成速度を重視するならRTX 4090(109.3 tok/s)やRTX 5090(168.4 tok/s)が2〜5倍高速です。