L40G

NVIDIA · Server Ada · 24 GB · 2022

Läuft das auf dieser Karte?

Ja — Qwen3.8-Flash-Next mit Q2_0 ausführen.

Download 70 GB · benötigt 48 GB Arbeitsspeicher.

Lade den Build für NVIDIA · CUDA.

Technische Daten

VRAM24 GB
Speicherbandbreite864 GB/s
Lesegeschwindigkeit3429 tok/s
Schreibgeschwindigkeit93.7 tok/s
Leistungsaufnahme300 W
Datenquellegeschätzt

Diese Karte ist noch nicht gemessen. Die Werte sind aus der Speicherbandbreite geschätzt und werden nach der Messung ersetzt.

Vollständige Benchmark-Tabelle