ローカルLLM 動作判定・VRAM/RAM計算機
GPUプリセットを選ぶかVRAM・システムRAM・コンテキスト長(8K–128K)を入力すると、動作可能な量子化、KVキャッシュ使用量、推定速度、API比較コストを即座に判定します。
動作可能 — お使いの構成で Qwen3.8-Flash-Next をローカル実行できます。
Q2_0
130.1 tok/s
~4 GB (32K)
$0.102/M
1104 日
| 量子化 | 判定 | 必要VRAM | 必要RAM | 容量 | 推定生成 |
|---|---|---|---|---|---|
| Q2_0 | 最推奨 | 15 GB | 51 GB | ~70 GB | ~130.1 tok/s |
| IQ2_XS | RAM不足 | 15 GB | 67 GB | ~72 GB | — |
| IQ3_XXS | RAM不足 | 15 GB | 67 GB | ~74 GB | — |
| IQ3_S | RAM不足 | 15 GB | 67 GB | ~76 GB | — |
| Coder | 動作OK | 15 GB | 35 GB | ~68 GB | ~76.1 tok/s |
| Unsloth UD-IQ4_XS | RAM不足 | 15 GB | 83 GB | ~94 GB | — |
VRAM・RAM容量別の動作目安一覧(32Kコンテキスト時)
上の計算機と同じ量子化要件とKVキャッシュ計算式で算出した早見表です。
| ハードウェア帯 | GPU VRAM / ユニファイドメモリ | システムRAM | 推奨量子化 | 推定生成 |
|---|---|---|---|---|
| RTX 4060 8GB / RTX 3070 | 8 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (32 GB RAM) | 12 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (64 GB RAM) | 12 GB | 64 GB | Q2_0 | ~76 tok/s |
| RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB | 16 GB | 64 GB | Q2_0 | ~108.5 tok/s |
| RTX 4090 / RTX 3090 / RX 7900 XTX | 24 GB | 64 GB | Q2_0 | ~113.9 tok/s |
| RTX 5090 / 2× RTX 5060 Ti 16GB | 32 GB | 96 GB | Unsloth UD-IQ4_XS | ~97 tok/s |
| Mac Studio M5 Max / Mac mini M5 Pro 64 GB | 64 GB* | 64 GB | Coder | ~36.1 tok/s |
| Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+ | 128 GB* | 128 GB | Unsloth UD-IQ4_XS | ~43.3 tok/s |
FAQ
- Strataをローカル実行するための最低VRAM・RAMは?
- 最低構成はVRAM 12 GB+システムRAM 32 GB(Coder版)、推奨デフォルトのIQ2_XSはVRAM 12 GB+RAM 64 GBです。
- RTX 4060など8 GB VRAMのGPUで動きますか?
- いいえ。8 GB専用VRAMはQwen3.8-Flash-Nextの最低ライン12 GBを下回るため、12 GBまたは16 GB以上のGPUが必要です。
- 128Kコンテキストでは追加メモリがどれくらい必要ですか?
- 128KコンテキストではKVキャッシュに約14 GB必要です(8K時は約1.5 GB)。長文用途には64–96 GB RAMまたは128 GBユニファイドメモリが推奨されます。
- Apple SiliconとRTX 4090はどちらを選ぶべきですか?
- 大容量メモリと静音性ならApple Silicon(64–512 GB)、生成速度を重視するならRTX 4090(109.3 tok/s)やRTX 5090(168.4 tok/s)が2〜5倍高速です。