Apple Silicon pour les LLM locaux
Les machines Apple sont classées à part car la mémoire unifiée change la question : il n'y a pas de plafond de VRAM, seulement un prix et une limite de bande passante.
| # | Matériel | Mémoire | Lecture tok/s | Puissance | Machine | Local $/M | Rentabilité |
|---|---|---|---|---|---|---|---|
| 1 | Mac Studio M5 Ultra 96 GB | 96 GB | 2 285 | 360 W | $5 499 | $0.097 | 987 j |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1 310 | 120 W | $6 699 | $0.103 | 1 178 j |
| 3 | Mac Studio M5 Ultra 256 GB | 256 GB | 2 856 | 360 W | $10 799 | $0.129 | 1 482 j |
| 4 | Mac Studio M5 Max 64 GB | 64 GB | 518 | 180 W | $3 799 | $0.143 | 1 653 j |
| 5 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5 099 | $0.169 | 2 028 j |
| 6 | Mac Studio M5 Max 128 GB | 128 GB | 518 | 180 W | $5 399 | $0.188 | 2 349 j |
| 7 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2 899 | $0.207 | 2 691 j |
| 8 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6 500 | $0.241 | 3 111 j |
| 9 | Mac Studio M3 Ultra 512 GB | 512 GB | 480 | 330 W | $9 499 | $0.548 | 15 577 j |
Ce que ces listes ne couvrent pas
- La mémoire unifiée est partagée avec le système et toutes les applications ouvertes : le plafond utilisable est inférieur à la taille annoncée. C'est souvent la bande passante, pas la capacité, qui limite.
- Toutes les valeurs sont des mesures mono-flux sur une seule charge. Le service multi-utilisateurs, le fine-tuning et le matériel serveur se comportent autrement.