A100X

NVIDIA · Server Ampere · 80 GB · 2021

Läuft das auf dieser Karte?

Ja — Qwen3.8-Flash-Next mit Q2_0 ausführen.

Download 70 GB · benötigt 48 GB Arbeitsspeicher.

Lade den Build für NVIDIA · CUDA 12 (legacy).

Technische Daten

VRAM80 GB
Speicherbandbreite2.04 GB/s
Lesegeschwindigkeit8 tok/s
Schreibgeschwindigkeit0.2 tok/s
Leistungsaufnahme300 W
Datenquellegeschätzt

Diese Karte ist noch nicht gemessen. Die Werte sind aus der Speicherbandbreite geschätzt und werden nach der Messung ersetzt.

Vollständige Benchmark-Tabelle