Apple Silicon para LLMs locais
As máquinas Apple ficam separadas porque a memória unificada muda a pergunta: não há teto de VRAM, apenas preço e limite de largura de banda.
| # | Hardware | Memória | Leitura tok/s | Potência | Conjunto | Local $/M | Retorno |
|---|---|---|---|---|---|---|---|
| 1 | Mac Studio M5 Ultra 96 GB | 96 GB | 2.285 | 360 W | $5.499 | $0.097 | 987 d |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1.310 | 120 W | $6.699 | $0.103 | 1.178 d |
| 3 | Mac Studio M5 Ultra 256 GB | 256 GB | 2.856 | 360 W | $10.799 | $0.129 | 1.482 d |
| 4 | Mac Studio M5 Max 64 GB | 64 GB | 518 | 180 W | $3.799 | $0.143 | 1.653 d |
| 5 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5.099 | $0.169 | 2.028 d |
| 6 | Mac Studio M5 Max 128 GB | 128 GB | 518 | 180 W | $5.399 | $0.188 | 2.349 d |
| 7 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2.899 | $0.207 | 2.691 d |
| 8 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6.500 | $0.241 | 3.111 d |
| 9 | Mac Studio M3 Ultra 512 GB | 512 GB | 480 | 330 W | $9.499 | $0.548 | 15.577 d |
O que estas listas não cobrem
- A memória unificada é compartilhada com o sistema e todos os apps abertos, então o teto utilizável é menor que o tamanho informado. O limite costuma ser a largura de banda, não a capacidade.
- Todos os números são medições de fluxo único em uma carga. Atendimento multiusuário, fine-tuning e hardware de servidor se comportam de forma diferente.