Apple Silicon für lokale LLMs
Apple-Rechner stehen separat, weil Unified Memory die Frage verändert: Es gibt keine VRAM-Obergrenze, nur Preis und Bandbreite als Grenzen.
| # | Hardware | Speicher | Lesen tok/s | Leistung | Rechner | Lokal $/M | Amortisation |
|---|---|---|---|---|---|---|---|
| 1 | Mac Studio M5 Ultra 96 GB | 96 GB | 2.285 | 360 W | $5.499 | $0.097 | 987 T |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1.310 | 120 W | $6.699 | $0.103 | 1.178 T |
| 3 | Mac Studio M5 Ultra 256 GB | 256 GB | 2.856 | 360 W | $10.799 | $0.129 | 1.482 T |
| 4 | Mac Studio M5 Max 64 GB | 64 GB | 518 | 180 W | $3.799 | $0.143 | 1.653 T |
| 5 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5.099 | $0.169 | 2.028 T |
| 6 | Mac Studio M5 Max 128 GB | 128 GB | 518 | 180 W | $5.399 | $0.188 | 2.349 T |
| 7 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2.899 | $0.207 | 2.691 T |
| 8 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6.500 | $0.241 | 3.111 T |
| 9 | Mac Studio M3 Ultra 512 GB | 512 GB | 480 | 330 W | $9.499 | $0.548 | 15.577 T |
Was diese Listen nicht abdecken
- Unified Memory teilt sich das System und alle offenen Programme, die nutzbare Obergrenze liegt also unter der angegebenen Größe. Meist begrenzt die Bandbreite, nicht die Kapazität.
- Alle Werte sind Einzelstrom-Messungen unter einer Last. Mehrbenutzerbetrieb, Fine-Tuning und Server-Hardware verhalten sich anders.