Mon PC peut-il lancer un LLM local ? Calculateur VRAM & RAM

Choisissez un profil GPU ou saisissez votre VRAM, RAM et fenêtre de contexte (8K–128K) pour obtenir la quantification idéale, l'empreinte du cache KV et la vitesse estimée.

Oui — votre machine peut exécuter Qwen3.8-Flash-Next en local.

Quantification recommandée
Q2_0
Vitesse estimée
130.1 tok/s (mesuré)
Cache KV estimé
~4 GB (32K)
Coût local
$0.102/M
Amortissement est.
1104 jours
QuantificationVerdictVRAMRAMTéléchargementÉcriture est.
Q2_0
Fastest quant; great for 48 GB RAM systems.
Recommandé15 GB51 GB~70 GB~130.1 tok/s
IQ2_XS
Recommended default for 64 GB RAM; balance of speed and quality.
RAM insuffisante15 GB67 GB~72 GB—
IQ3_XXS
Smarter than IQ2; still fits most 64 GB builds.
RAM insuffisante15 GB67 GB~74 GB—
IQ3_S
Best quality that still runs on 64 GB; slowest of the IQ line.
RAM insuffisante15 GB67 GB~76 GB—
Coder
Coding-focused variant; fits 32 GB RAM (weaker on CJK general text).
Compatible15 GB35 GB~68 GB~76.1 tok/s
Unsloth UD-IQ4_XS
~4-bit Unsloth pack; needs ~80 GB RAM or partial SSD offload.
RAM insuffisante15 GB83 GB~94 GB—

Référence rapide par palier VRAM / RAM (contexte 32K)

Calculé selon exactement les mêmes seuils et règles KV-cache que le calculateur ci-dessus.

Palier matérielVRAM GPU / Mémoire unifiéeRAM systèmeQuantification recommandéeÉcriture est.
RTX 4060 8GB / RTX 30708 GB32 GB12 Go+ VRAM requis—
RTX 4070 / RTX 5070 12GB (32 GB RAM)12 GB32 GB12 Go+ VRAM requis—
RTX 4070 / RTX 5070 12GB (64 GB RAM)12 GB64 GBQ2_0~76 tok/s
RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB16 GB64 GBQ2_0~108.5 tok/s
RTX 4090 / RTX 3090 / RX 7900 XTX24 GB64 GBQ2_0~113.9 tok/s
RTX 5090 / 2× RTX 5060 Ti 16GB32 GB96 GBUnsloth UD-IQ4_XS~97 tok/s
Mac Studio M5 Max / Mac mini M5 Pro 64 GB64 GB*64 GBCoder~36.1 tok/s
Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+128 GB*128 GBUnsloth UD-IQ4_XS~43.3 tok/s

* La mémoire unifiée partage le pool avec l'OS (~82 % utilisable). Usages → · Benchmarks → · GPU → · Méthode →

FAQ

Quelle est la VRAM et RAM minimale pour Strata en local ?
Il faut au minimum 12 Go de VRAM et 32 Go de RAM pour la variante Coder, ou 12 Go de VRAM + 64 Go de RAM pour le profil recommandé IQ2_XS.
Un GPU 8 Go comme la RTX 4060 peut-il lancer Qwen3.8-Flash-Next ?
Non — 8 Go de VRAM dédiée sont sous le plancher de 12 Go. Une carte 12 Go ou 16 Go (RTX 4070, RTX 5070, RX 9070 XT) permet l'exécution locale.
Combien de mémoire ajoute un contexte de 128K ?
Un contexte 128K demande environ 14 Go de cache KV contre ~1,5 Go à 8K. Prévoyez 64–96 Go de RAM ou 128 Go de mémoire unifiée.
Apple Silicon ou RTX 4090 pour un LLM local ?
Apple Silicon offre une grande capacité silencieuse (64–512 Go), tandis qu'une RTX 4090 (109,3 tok/s) ou RTX 5090 (168,4 tok/s) génère 2 à 5× plus vite.