Máquinas de menor consumo para LLM locales
Ordenado por consumo en la pared. Es la lista que hay que leer si la máquina tiene que vivir en un dormitorio, una residencia o un circuito compartido.
| # | Hardware | Memoria | Lectura tok/s | Potencia | Equipo | Local $/M | Recuperación |
|---|---|---|---|---|---|---|---|
| 1 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2899 | $0.207 | 2691 d |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1310 | 120 W | $6699 | $0.103 | 1178 d |
| 3 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5099 | $0.169 | 2028 d |
| 4 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6500 | $0.241 | 3111 d |
| 5 | Ryzen AI Max+ 395 128 GB | 128 GB | 1320 | 170 W | $3500 | $0.077 | 787 d |
| 6 | DGX Spark | 128 GB | 2229 | 170 W | $5100 | $0.097 | 1062 d |
Qué no cubren estas listas
- El consumo es el medido en carga con esta tarea; el consumo en reposo y el ruido del ventilador son medidas distintas y no están en esta tabla.
- Todas las cifras son mediciones de un solo flujo con una sola carga. El servicio multiusuario, el fine-tuning y el hardware de servidor se comportan distinto.