Máquinas de menor consumo para LLMs locais
Ordenado pelo consumo na tomada. É a lista certa se a máquina precisa ficar num quarto, num dormitório ou num circuito compartilhado.
| # | Hardware | Memória | Leitura tok/s | Potência | Conjunto | Local $/M | Retorno |
|---|---|---|---|---|---|---|---|
| 1 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2.899 | $0.207 | 2.691 d |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1.310 | 120 W | $6.699 | $0.103 | 1.178 d |
| 3 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5.099 | $0.169 | 2.028 d |
| 4 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6.500 | $0.241 | 3.111 d |
| 5 | Ryzen AI Max+ 395 128 GB | 128 GB | 1.320 | 170 W | $3.500 | $0.077 | 787 d |
| 6 | DGX Spark | 128 GB | 2.229 | 170 W | $5.100 | $0.097 | 1.062 d |
O que estas listas não cobrem
- O consumo é medido sob carga nesta tarefa; consumo em repouso e ruído do ventilador são medidas separadas e não estão nesta tabela.
- Todos os números são medições de fluxo único em uma carga. Atendimento multiusuário, fine-tuning e hardware de servidor se comportam de forma diferente.