¿Puede mi PC ejecutar un LLM local? Calculadora de VRAM y RAM
Elige un equipo predefinido o indica tu VRAM, RAM y ventana de contexto (8K–128K) para ver la cuantización recomendada, caché KV y tok/s estimados.
Sí — tu equipo puede ejecutar Qwen3.8-Flash-Next en local.
Q2_0
130.1 tok/s
~4 GB (32K)
$0.102/M
1104 días
| Cuantización | Veredicto | VRAM | RAM | Descarga | Escritura est. |
|---|---|---|---|---|---|
| Q2_0 | Recomendada | 15 GB | 51 GB | ~70 GB | ~130.1 tok/s |
| IQ2_XS | Falta RAM | 15 GB | 67 GB | ~72 GB | — |
| IQ3_XXS | Falta RAM | 15 GB | 67 GB | ~74 GB | — |
| IQ3_S | Falta RAM | 15 GB | 67 GB | ~76 GB | — |
| Coder | Compatible | 15 GB | 35 GB | ~68 GB | ~76.1 tok/s |
| Unsloth UD-IQ4_XS | Falta RAM | 15 GB | 83 GB | ~94 GB | — |
Referencia rápida por nivel de VRAM y RAM (contexto 32K)
Calculado con exactamente las mismas reglas de cuantización y caché KV que la calculadora superior.
| Nivel de hardware | VRAM GPU / Memoria unificada | RAM del sistema | Cuantización recomendada | Escritura est. |
|---|---|---|---|---|
| RTX 4060 8GB / RTX 3070 | 8 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (32 GB RAM) | 12 GB | 32 GB | — | |
| RTX 4070 / RTX 5070 12GB (64 GB RAM) | 12 GB | 64 GB | Q2_0 | ~76 tok/s |
| RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB | 16 GB | 64 GB | Q2_0 | ~108.5 tok/s |
| RTX 4090 / RTX 3090 / RX 7900 XTX | 24 GB | 64 GB | Q2_0 | ~113.9 tok/s |
| RTX 5090 / 2× RTX 5060 Ti 16GB | 32 GB | 96 GB | Unsloth UD-IQ4_XS | ~97 tok/s |
| Mac Studio M5 Max / Mac mini M5 Pro 64 GB | 64 GB* | 64 GB | Coder | ~36.1 tok/s |
| Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+ | 128 GB* | 128 GB | Unsloth UD-IQ4_XS | ~43.3 tok/s |
FAQ
- ¿Cuál es la VRAM y RAM mínima para ejecutar Strata localmente?
- El mínimo es 12 GB de VRAM y 32 GB de RAM para la versión Coder, o 12 GB de VRAM + 64 GB de RAM para el perfil recomendado IQ2_XS.
- ¿Puede una GPU de 8 GB como la RTX 4060 ejecutar Qwen3.8-Flash-Next?
- No — 8 GB de VRAM dedicada están por debajo del mínimo de 12 GB. Dar el salto a una tarjeta de 12 GB o 16 GB permite ejecutarlo en local.
- ¿Cuánta memoria extra consume el contexto de 128K?
- 128K añade unos 14 GB de caché KV frente a ~1,5 GB en 8K, por lo que conviene contar con 64–96 GB de RAM o 128 GB de memoria unificada.
- ¿Conviene más Apple Silicon o una RTX 4090?
- Apple Silicon ofrece enorme memoria silenciosa (64–512 GB), mientras que RTX 4090 (109,3 tok/s) y RTX 5090 (168,4 tok/s) generan entre 2 y 5× más rápido.