¿Puede mi PC ejecutar un LLM local? Calculadora de VRAM y RAM

Elige un equipo predefinido o indica tu VRAM, RAM y ventana de contexto (8K–128K) para ver la cuantización recomendada, caché KV y tok/s estimados.

Sí — tu equipo puede ejecutar Qwen3.8-Flash-Next en local.

Cuantización recomendada
Q2_0
Velocidad estimada
130.1 tok/s (medido)
Caché KV estimada
~4 GB (32K)
Coste local
$0.102/M
Amortización est.
1104 días
CuantizaciónVeredictoVRAMRAMDescargaEscritura est.
Q2_0
Fastest quant; great for 48 GB RAM systems.
Recomendada15 GB51 GB~70 GB~130.1 tok/s
IQ2_XS
Recommended default for 64 GB RAM; balance of speed and quality.
Falta RAM15 GB67 GB~72 GB—
IQ3_XXS
Smarter than IQ2; still fits most 64 GB builds.
Falta RAM15 GB67 GB~74 GB—
IQ3_S
Best quality that still runs on 64 GB; slowest of the IQ line.
Falta RAM15 GB67 GB~76 GB—
Coder
Coding-focused variant; fits 32 GB RAM (weaker on CJK general text).
Compatible15 GB35 GB~68 GB~76.1 tok/s
Unsloth UD-IQ4_XS
~4-bit Unsloth pack; needs ~80 GB RAM or partial SSD offload.
Falta RAM15 GB83 GB~94 GB—

Referencia rápida por nivel de VRAM y RAM (contexto 32K)

Calculado con exactamente las mismas reglas de cuantización y caché KV que la calculadora superior.

Nivel de hardwareVRAM GPU / Memoria unificadaRAM del sistemaCuantización recomendadaEscritura est.
RTX 4060 8GB / RTX 30708 GB32 GBRequiere 12 GB+ VRAM—
RTX 4070 / RTX 5070 12GB (32 GB RAM)12 GB32 GBRequiere 12 GB+ VRAM—
RTX 4070 / RTX 5070 12GB (64 GB RAM)12 GB64 GBQ2_0~76 tok/s
RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB16 GB64 GBQ2_0~108.5 tok/s
RTX 4090 / RTX 3090 / RX 7900 XTX24 GB64 GBQ2_0~113.9 tok/s
RTX 5090 / 2× RTX 5060 Ti 16GB32 GB96 GBUnsloth UD-IQ4_XS~97 tok/s
Mac Studio M5 Max / Mac mini M5 Pro 64 GB64 GB*64 GBCoder~36.1 tok/s
Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+128 GB*128 GBUnsloth UD-IQ4_XS~43.3 tok/s

* La memoria unificada comparte el pool con el sistema operativo (~82 % utilizable). Usos → · Benchmarks → · GPUs → · Método →

FAQ

¿Cuál es la VRAM y RAM mínima para ejecutar Strata localmente?
El mínimo es 12 GB de VRAM y 32 GB de RAM para la versión Coder, o 12 GB de VRAM + 64 GB de RAM para el perfil recomendado IQ2_XS.
¿Puede una GPU de 8 GB como la RTX 4060 ejecutar Qwen3.8-Flash-Next?
No — 8 GB de VRAM dedicada están por debajo del mínimo de 12 GB. Dar el salto a una tarjeta de 12 GB o 16 GB permite ejecutarlo en local.
¿Cuánta memoria extra consume el contexto de 128K?
128K añade unos 14 GB de caché KV frente a ~1,5 GB en 8K, por lo que conviene contar con 64–96 GB de RAM o 128 GB de memoria unificada.
¿Conviene más Apple Silicon o una RTX 4090?
Apple Silicon ofrece enorme memoria silenciosa (64–512 GB), mientras que RTX 4090 (109,3 tok/s) y RTX 5090 (168,4 tok/s) generan entre 2 y 5× más rápido.