A40 PCIe

NVIDIA · Server Ampere · 48 GB · 2020

Läuft das auf dieser Karte?

Ja — Qwen3.8-Flash-Next mit Q2_0 ausführen.

Download 70 GB · benötigt 48 GB Arbeitsspeicher.

Lade den Build für NVIDIA · CUDA 12 (legacy).

Technische Daten

VRAM48 GB
Speicherbandbreite695.8 GB/s
Lesegeschwindigkeit2761 tok/s
Schreibgeschwindigkeit75.4 tok/s
Leistungsaufnahme300 W
Datenquellegeschätzt

Diese Karte ist noch nicht gemessen. Die Werte sind aus der Speicherbandbreite geschätzt und werden nach der Messung ersetzt.

Vollständige Benchmark-Tabelle