Compatibilidade de GPU
Todas as GPUs que rodam o Qwen3.8-Flash-Next, agrupadas por fabricante e arquitetura. Escolha sua placa para ver a quantização adequada e o que baixar.
| GPU | Arquitetura | Por VRAM | Por velocidade | Suporte |
|---|---|---|---|---|
| Mac Studio M5 Ultra 512 GB | Apple M5 | 512 GB | 3250 tok/s | Suportado |
| Mac Studio M3 Ultra 512 GB | Apple M3 | 512 GB | 3250 tok/s | Suportado |
| Mac Studio M5 Ultra 256 GB | Apple M5 | 256 GB | 3250 tok/s | Suportado |
| AMD Instinct MI300X | CDNA 3 | 192 GB | 21032 tok/s | Suportado |
| Mac Studio M5 Ultra 192 GB | Apple M5 | 192 GB | 3250 tok/s | Suportado |
| Mac Studio M2 Ultra 192 GB | Apple M2 | 192 GB | 3250 tok/s | Suportado |
| MacBook Pro M3 Max 128 GB | Apple M3 | 128 GB | 3250 tok/s | Suportado |
| Mac Studio M2 Ultra 128 GB | Apple M2 | 128 GB | 3250 tok/s | Suportado |
| Mac Studio M1 Ultra 128 GB | Apple M1 | 128 GB | 3250 tok/s | Suportado |
| Mac Studio M5 Max 128 GB | Apple M5 | 128 GB | 2167 tok/s | Suportado |
| Mac Studio M4 Max 128 GB | Apple M4 | 128 GB | 2167 tok/s | Suportado |
| RTX PRO 6000 Blackwell | Blackwell | 96 GB | 8987.9 tok/s | Medido |
| Mac Studio M5 Ultra 96 GB | Apple M5 | 96 GB | 3250 tok/s | Suportado |
| MacBook Pro M2 Max 96 GB | Apple M2 | 96 GB | 3250 tok/s | Suportado |
| MacBook Pro M5 Max 96 GB | Apple M5 | 96 GB | 2167 tok/s | Suportado |
| NVIDIA H100 80GB | Hopper | 80 GB | 0 tok/s | Suportado |
| NVIDIA A100 80GB | Ampere | 80 GB | 0 tok/s | Suportado |
| AMD Instinct MI210 | CDNA 2 | 64 GB | 6500 tok/s | Suportado |
| MacBook Pro M3 Max 64 GB | Apple M3 | 64 GB | 3250 tok/s | Suportado |
| MacBook Pro M1 Max 64 GB | Apple M1 | 64 GB | 3250 tok/s | Suportado |
| MacBook Pro M5 Max 64 GB | Apple M5 | 64 GB | 2167 tok/s | Suportado |
| MacBook Pro M4 Max 64 GB | Apple M4 | 64 GB | 2167 tok/s | Suportado |
| Mac mini M5 Pro 64 GB | Apple M5 | 64 GB | 1083 tok/s | Suportado |
| RTX PRO 5000 Blackwell | Blackwell | 48 GB | 5333 tok/s | Suportado |
| RTX A6000 | Ampere | 48 GB | 3810 tok/s | Suportado |
| RTX 6000 Ada | Ada Lovelace | 48 GB | 3810 tok/s | Suportado |
| NVIDIA L40S | Ada Lovelace | 48 GB | 3429 tok/s | Suportado |
| AMD Radeon PRO W7900 | RDNA 3 | 48 GB | 3429 tok/s | Suportado |
| Mac mini M4 Pro 48 GB | Apple M4 | 48 GB | 3250 tok/s | Suportado |
| MacBook Pro M4 Max 48 GB | Apple M4 | 48 GB | 2167 tok/s | Suportado |
| NVIDIA A100 40GB | Ampere | 40 GB | 0 tok/s | Suportado |
| RTX 5090 | Blackwell | 32 GB | 5803 tok/s | Medido |
| AMD Radeon PRO W7800 | RDNA 3 | 32 GB | 2286 tok/s | Suportado |
| RTX 4090 | Ada Lovelace | 24 GB | 4000 tok/s | Medido |
| RTX A5000 | Ampere | 24 GB | 3048 tok/s | Suportado |
| RTX PRO 4000 Blackwell | Blackwell | 24 GB | 2667 tok/s | Suportado |
| RTX 3090 Ti | Ampere | 24 GB | 2255.1 tok/s | Medido |
| RTX 3090 | Ampere | 24 GB | 2094 tok/s | Medido |
| AMD Radeon RX 7900 XTX | RDNA 3 | 24 GB | 1459.3 tok/s | Medido |
| NVIDIA L4 | Ada Lovelace | 24 GB | 1190 tok/s | Suportado |
| AMD Radeon RX 7900 XT | RDNA 3 | 20 GB | 3175 tok/s | Suportado |
| RTX 5080 | Blackwell | 16 GB | 3712.5 tok/s | Medido |
| RTX 5070 Ti | Blackwell | 16 GB | 3556 tok/s | Suportado |
| RTX 4080 SUPER | Ada Lovelace | 16 GB | 2921 tok/s | Suportado |
| RTX 4080 | Ada Lovelace | 16 GB | 2845 tok/s | Suportado |
| RTX 4070 Ti SUPER 16GB | Ada Lovelace | 16 GB | 2667 tok/s | Suportado |
| AMD Radeon RX 9070 XT 16GB | RDNA 4 | 16 GB | 2560 tok/s | Suportado |
| AMD Radeon RX 9070 16GB | RDNA 4 | 16 GB | 2560 tok/s | Suportado |
| AMD Radeon RX 7800 XT | RDNA 3 | 16 GB | 2476 tok/s | Suportado |
| AMD Radeon RX 6950 XT | RDNA 2 | 16 GB | 2286 tok/s | Suportado |
| AMD Radeon RX 7900 GRE | RDNA 3 | 16 GB | 2286 tok/s | Suportado |
| Intel Arc A770 16GB | Alchemist | 16 GB | 2222 tok/s | Suportado |
| AMD Radeon RX 6900 XT 16GB | RDNA 2 | 16 GB | 2032 tok/s | Suportado |
| AMD Radeon RX 6800 XT | RDNA 2 | 16 GB | 2032 tok/s | Suportado |
| AMD Radeon RX 6800 | RDNA 2 | 16 GB | 2032 tok/s | Suportado |
| RTX 5060 Ti 16GB | Blackwell | 16 GB | 1778 tok/s | Suportado |
| RTX A4000 | Ampere | 16 GB | 1778 tok/s | Suportado |
| AMD Radeon RX 9060 XT 16GB | RDNA 4 | 16 GB | 1278 tok/s | Suportado |
| RTX 4060 Ti 16GB | Ada Lovelace | 16 GB | 1143 tok/s | Suportado |
| RTX 3080 Ti | Ampere | 12 GB | 3619 tok/s | Suportado |
| RTX 3080 12GB | Ampere | 12 GB | 3016 tok/s | Suportado |
| RTX 4070 Ti | Ada Lovelace | 12 GB | 2000 tok/s | Suportado |
| RTX 4070 SUPER | Ada Lovelace | 12 GB | 2000 tok/s | Suportado |
| Intel Arc B580 | Battlemage | 12 GB | 1810 tok/s | Suportado |
| AMD Radeon RX 7700 XT | RDNA 3 | 12 GB | 1714 tok/s | Suportado |
| AMD Radeon RX 6750 XT | RDNA 2 | 12 GB | 1714 tok/s | Suportado |
| AMD Radeon RX 6700 XT | RDNA 2 | 12 GB | 1524 tok/s | Suportado |
| RTX 5070 | Blackwell | 12 GB | 1443.2 tok/s | Medido |
| RTX 3060 12GB | Ampere | 12 GB | 1429 tok/s | Suportado |
| RTX 4070 12 GB | Ada Lovelace | 12 GB | 1376 tok/s | Medido |
| RTX 2060 12GB | Turing | 12 GB | 1333 tok/s | Suportado |
| RTX 2080 Ti | Turing | 11 GB | 2444 tok/s | VRAM insuficiente |
| GTX 1080 Ti | Pascal | 11 GB | 1921 tok/s | VRAM insuficiente |
| RTX 3080 | Ampere | 10 GB | 3016 tok/s | VRAM insuficiente |
| Intel Arc B570 | Battlemage | 10 GB | 1508 tok/s | VRAM insuficiente |
| RTX 3070 Ti | Ampere | 8 GB | 2413 tok/s | VRAM insuficiente |
| Intel Arc A750 | Alchemist | 8 GB | 2032 tok/s | VRAM insuficiente |
| RTX 2080 SUPER | Turing | 8 GB | 1968 tok/s | VRAM insuficiente |
| AMD Radeon RX Vega 64 | Vega | 8 GB | 1921 tok/s | VRAM insuficiente |
| RTX 3070 | Ampere | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 3060 Ti | Ampere | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 2080 | Turing | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 2070 SUPER | Turing | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 2070 | Turing | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 2060 SUPER | Turing | 8 GB | 1778 tok/s | VRAM insuficiente |
| AMD Radeon RX 5700 XT | RDNA | 8 GB | 1778 tok/s | VRAM insuficiente |
| RTX 3060 8GB | Ampere | 8 GB | 1429 tok/s | VRAM insuficiente |
| GTX 1080 | Pascal | 8 GB | 1270 tok/s | VRAM insuficiente |
| RTX 4060 Ti 8GB | Ada Lovelace | 8 GB | 1143 tok/s | VRAM insuficiente |
| AMD Radeon RX 6650 XT | RDNA 2 | 8 GB | 1111 tok/s | VRAM insuficiente |
| RTX 4060 | Ada Lovelace | 8 GB | 1079 tok/s | VRAM insuficiente |
| GTX 1070 Ti | Pascal | 8 GB | 1016 tok/s | VRAM insuficiente |
| GTX 1070 | Pascal | 8 GB | 1016 tok/s | VRAM insuficiente |
| AMD Radeon RX 6600 XT | RDNA 2 | 8 GB | 1016 tok/s | VRAM insuficiente |
| AMD Radeon RX 7650 GRE | RDNA 3 | 8 GB | 1016 tok/s | VRAM insuficiente |
| AMD Radeon RX 6600 | RDNA 2 | 8 GB | 889 tok/s | VRAM insuficiente |
| RTX 2060 | Turing | 6 GB | 1333 tok/s | VRAM insuficiente |
| GTX 1660 SUPER | Turing | 6 GB | 1333 tok/s | VRAM insuficiente |
| GTX 1660 Ti | Turing | 6 GB | 1143 tok/s | VRAM insuficiente |
| GTX 1060 6GB | Pascal | 6 GB | 0 tok/s | VRAM insuficiente |
| GTX 1650 SUPER | Turing | 4 GB | 762 tok/s | VRAM insuficiente |