Rechner mit der geringsten Leistungsaufnahme für lokale LLMs
Sortiert nach Leistungsaufnahme an der Steckdose. Diese Liste ist relevant, wenn der Rechner im Schlafzimmer, im Wohnheim oder an einem geteilten Stromkreis stehen muss.
| # | Hardware | Speicher | Lesen tok/s | Leistung | Rechner | Lokal $/M | Amortisation |
|---|---|---|---|---|---|---|---|
| 1 | Mac mini M5 Pro 64 GB | 64 GB | 259 | 110 W | $2.899 | $0.207 | 2.691 T |
| 2 | MacBook Pro M5 Max 128 GB | 128 GB | 1.310 | 120 W | $6.699 | $0.103 | 1.178 T |
| 3 | MacBook Pro M5 Max 64 GB | 64 GB | 518 | 120 W | $5.099 | $0.169 | 2.028 T |
| 4 | Mac Studio M4 Max 128 GB | 128 GB | 447 | 145 W | $6.500 | $0.241 | 3.111 T |
| 5 | Ryzen AI Max+ 395 128 GB | 128 GB | 1.320 | 170 W | $3.500 | $0.077 | 787 T |
| 6 | DGX Spark | 128 GB | 2.229 | 170 W | $5.100 | $0.097 | 1.062 T |
Was diese Listen nicht abdecken
- Die Leistungsaufnahme ist unter Last bei dieser Arbeitslast gemessen; Leerlaufverbrauch und Lüftergeräusch sind eigene Größen und nicht in dieser Tabelle.
- Alle Werte sind Einzelstrom-Messungen unter einer Last. Mehrbenutzerbetrieb, Fine-Tuning und Server-Hardware verhalten sich anders.