Meu PC roda um LLM local? Calculadora de VRAM e RAM

Escolha um perfil de GPU ou informe VRAM, RAM e janela de contexto (8K–128K) para ver a quantização ideal, consumo de KV cache e velocidade estimada.

Sim — seu hardware consegue rodar Qwen3.8-Flash-Next localmente.

Quantização recomendada
Q2_0
Velocidade estimada
130.1 tok/s (medido)
KV cache estimado
~4 GB (32K)
Custo local
$0.102/M
Payback est.
1104 dias
QuantizaçãoVereditoVRAMRAMDownloadEscrita est.
Q2_0
Fastest quant; great for 48 GB RAM systems.
Recomendada15 GB51 GB~70 GB~130.1 tok/s
IQ2_XS
Recommended default for 64 GB RAM; balance of speed and quality.
Falta RAM15 GB67 GB~72 GB—
IQ3_XXS
Smarter than IQ2; still fits most 64 GB builds.
Falta RAM15 GB67 GB~74 GB—
IQ3_S
Best quality that still runs on 64 GB; slowest of the IQ line.
Falta RAM15 GB67 GB~76 GB—
Coder
Coding-focused variant; fits 32 GB RAM (weaker on CJK general text).
Compatível15 GB35 GB~68 GB~76.1 tok/s
Unsloth UD-IQ4_XS
~4-bit Unsloth pack; needs ~80 GB RAM or partial SSD offload.
Falta RAM15 GB83 GB~94 GB—

Referência rápida por faixa de VRAM e RAM (contexto 32K)

Calculado com as mesmas regras de quantização e KV cache da calculadora acima.

Faixa de hardwareVRAM GPU / Memória unificadaRAM do sistemaQuantização recomendadaEscrita est.
RTX 4060 8GB / RTX 30708 GB32 GBRequer 12 GB+ VRAM—
RTX 4070 / RTX 5070 12GB (32 GB RAM)12 GB32 GBRequer 12 GB+ VRAM—
RTX 4070 / RTX 5070 12GB (64 GB RAM)12 GB64 GBQ2_0~76 tok/s
RTX 5080 / RTX 5070 Ti / RX 9070 XT 16GB16 GB64 GBQ2_0~108.5 tok/s
RTX 4090 / RTX 3090 / RX 7900 XTX24 GB64 GBQ2_0~113.9 tok/s
RTX 5090 / 2× RTX 5060 Ti 16GB32 GB96 GBUnsloth UD-IQ4_XS~97 tok/s
Mac Studio M5 Max / Mac mini M5 Pro 64 GB64 GB*64 GBCoder~36.1 tok/s
Ryzen AI Max+ 395 / DGX Spark / Mac Studio 128 GB+128 GB*128 GBUnsloth UD-IQ4_XS~43.3 tok/s

* Memória unificada compartilha o pool com o sistema (~82% utilizável). Usos → · Benchmarks → · GPUs → · Método →

FAQ

Qual é o mínimo de VRAM e RAM para rodar o Strata localmente?
O mínimo é 12 GB de VRAM e 32 GB de RAM para a edição Coder, ou 12 GB de VRAM + 64 GB de RAM para o padrão recomendado IQ2_XS.
Uma GPU de 8 GB como a RTX 4060 roda Qwen3.8-Flash-Next?
Não — 8 GB de VRAM dedicada ficam abaixo do mínimo de 12 GB. Uma placa de 12 GB ou 16 GB (RTX 4070, RTX 5070, RX 9070 XT) libera o uso local.
Quanta memória extra o contexto de 128K consome?
O contexto 128K adiciona cerca de 14 GB de KV cache frente a ~1,5 GB em 8K, exigindo 64–96 GB de RAM ou 128 GB unificados.
Apple Silicon ou RTX 4090 para LLM local?
Apple Silicon oferece enorme memória silenciosa (64–512 GB), enquanto RTX 4090 (109,3 tok/s) e RTX 5090 (168,4 tok/s) geram de 2 a 5× mais rápido.