Machines les moins gourmandes pour un LLM local
Classement par consommation au mur. C'est la liste à lire si la machine doit vivre dans une chambre, un dortoir ou sur un circuit partagé.
| # | Matériel | Mémoire | Lecture tok/s | Puissance | Machine | Local $/M | Rentabilité |
|---|---|---|---|---|---|---|---|
| 1 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2 899 | $0.207 | 2 691 j |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1 310 | 120 W | $6 699 | $0.103 | 1 178 j |
| 3 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5 099 | $0.169 | 2 028 j |
| 4 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6 500 | $0.241 | 3 111 j |
| 5 | Ryzen AI Max+ 395 128 GB | 128 GB | 1 320 | 170 W | $3 500 | $0.077 | 787 j |
| 6 | DGX Spark | 128 GB | 2 229 | 170 W | $5 100 | $0.097 | 1 062 j |
Ce que ces listes ne couvrent pas
- La consommation est mesurée en charge sur cette tâche ; la consommation à l'arrêt et le bruit des ventilateurs sont des mesures distinctes, absentes de ce tableau.
- Toutes les valeurs sont des mesures mono-flux sur une seule charge. Le service multi-utilisateurs, le fine-tuning et le matériel serveur se comportent autrement.