Mon PC peut-il lancer un LLM local ? Calculateur VRAM & RAM
Choisissez un profil GPU ou saisissez votre VRAM, RAM et fenêtre de contexte (8K–128K) pour obtenir la quantification idéale, l'empreinte du cache KV et la vitesse estimée.
Oui — votre machine peut exécuter Qwen3.8-Flash-Next en local.
Q2_0
130.1 tok/s
~4 GB (32K)
$0.102/M
1104 jours
| Quantification | Verdict | VRAM | RAM | Téléchargement | Écriture est. |
|---|---|---|---|---|---|
| Q2_0 | Recommandé | 15 GB | 51 GB | ~70 GB | ~130.1 tok/s |
| IQ2_XS | RAM insuffisante | 15 GB | 67 GB | ~72 GB | — |
| IQ3_XXS | RAM insuffisante | 15 GB | 67 GB | ~74 GB | — |
| IQ3_S | RAM insuffisante | 15 GB | 67 GB | ~76 GB | — |
| Coder | Compatible | 15 GB | 35 GB | ~68 GB | ~76.1 tok/s |
| Unsloth UD-IQ4_XS | RAM insuffisante | 15 GB | 83 GB | ~94 GB | — |
Référence rapide par palier VRAM / RAM (contexte 32K)
Calculé selon exactement les mêmes seuils et règles KV-cache que le calculateur ci-dessus.
| Palier matériel | VRAM GPU / Mémoire unifiée | RAM système | Quantification recommandée | Écriture est. |
|---|---|---|---|---|
| RTX 4060 8GB / RTX 3070 | 8 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (32 GB RAM) | 12 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (64 GB RAM) | 12 GB | 64 GB | Q2_0 | ~76 tok/s |
| RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB | 16 GB | 64 GB | Q2_0 | ~108.5 tok/s |
| RTX 4090 / RTX 3090 / RX 7900 XTX | 24 GB | 64 GB | Q2_0 | ~113.9 tok/s |
| RTX 5090 / 2× RTX 5060 Ti 16GB | 32 GB | 96 GB | Unsloth UD-IQ4_XS | ~97 tok/s |
| Mac Studio M5 Max / Mac mini M5 Pro 64 GB | 64 GB* | 64 GB | Coder | ~36.1 tok/s |
| Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+ | 128 GB* | 128 GB | Unsloth UD-IQ4_XS | ~43.3 tok/s |
FAQ
- Quelle est la VRAM et RAM minimale pour Strata en local ?
- Il faut au minimum 12 Go de VRAM et 32 Go de RAM pour la variante Coder, ou 12 Go de VRAM + 64 Go de RAM pour le profil recommandé IQ2_XS.
- Un GPU 8 Go comme la RTX 4060 peut-il lancer Qwen3.8-Flash-Next ?
- Non — 8 Go de VRAM dédiée sont sous le plancher de 12 Go. Une carte 12 Go ou 16 Go (RTX 4070, RTX 5070, RX 9070 XT) permet l'exécution locale.
- Combien de mémoire ajoute un contexte de 128K ?
- Un contexte 128K demande environ 14 Go de cache KV contre ~1,5 Go à 8K. Prévoyez 64–96 Go de RAM ou 128 Go de mémoire unifiée.
- Apple Silicon ou RTX 4090 pour un LLM local ?
- Apple Silicon offre une grande capacité silencieuse (64–512 Go), tandis qu'une RTX 4090 (109,3 tok/s) ou RTX 5090 (168,4 tok/s) génère 2 à 5× plus vite.