A100 PCIe 40 GB

NVIDIA · Server Ampere · 2020

Läuft das auf dieser Karte?

Ja — Qwen3.8-Flash-Next mit Q2_0 ausführen.

Download 70 GB · benötigt 48 GB Arbeitsspeicher.

Lade den Build für NVIDIA · CUDA 12 (legacy).

Technische Daten

VRAM40 GB
Speicherbandbreite1.56 GB/s
Lesegeschwindigkeit6 tok/s
Schreibgeschwindigkeit0.2 tok/s
Leistungsaufnahme250 W
Datenquellegeschätzt

Diese Karte ist noch nicht gemessen. Die Werte sind aus der Speicherbandbreite geschätzt und werden nach der Messung ersetzt.

Vollständige Benchmark-Tabelle