Lokale LLM-Hardware unter 2000 $
Der komplette Rechner unter 2000 $, nicht nur die Karte. Diese Maschinen passen in ein Studentenbudget und laufen dennoch mit einem Modell der 125B-Klasse.
| # | Hardware | Speicher | Lesen tok/s | Leistung | Rechner | Lokal $/M | Amortisation |
|---|---|---|---|---|---|---|---|
| 1 | AMD Radeon RX 6900 XT 16GB | 16 GB | 466 | 450 W | $1.669 | $0.118 | 994 T |
| 2 | 2x RTX 3060 12 GB | 24 GB | 1.240 | 490 W | $1.814 | $0.101 | 738 T |
| 3 | AMD Radeon RX 7900 XTX | 24 GB | 1.459 | 475 W | $2.000 | $0.063 | 390 T |
| 4 | AMD Radeon RX 9070 XT 16GB | 16 GB | 1.652 | 454 W | $2.000 | $0.076 | 514 T |
Was diese Listen nicht abdecken
- Die Preise sind datierte Marktpreise. Gebrauchtkarten und Sonderangebote bewegen sich schneller als diese Tabelle; prüfen Sie den Preis vor dem Kauf.
- Alle Werte sind Einzelstrom-Messungen unter einer Last. Mehrbenutzerbetrieb, Fine-Tuning und Server-Hardware verhalten sich anders.