Die beste Hardware für lokale LLMs nach Anwendungsfall

Jede Liste unten wird aus derselben gemessenen Benchmark-Tabelle erzeugt, und die Sortierregel steht dabei. Nichts ist handverlesen: Ändern sich die Daten, ändert sich die Reihenfolge.

• Günstigste Hardware für lokale LLMs

  6 Maschinen qualifizieren sich · Sortiert nach Kosten pro Million Token (Strom + Hardware-Lebensdauer)

• Lokale LLM-Hardware unter 2000 $

  4 Maschinen qualifizieren sich · Komplettpreis bis 2000 $, günstigste zuerst

• Rechner mit der geringsten Leistungsaufnahme für lokale LLMs

  6 Maschinen qualifizieren sich · Sortiert nach Leistungsaufnahme, niedrigste zuerst

• Apple Silicon für lokale LLMs

  9 Maschinen qualifizieren sich · Nur Apple Silicon, sortiert nach Kosten pro Million Token

Sortierregeln und Annahmen: wie wir messen