Zu wenig VRAM
Zuerst eine Quantisierungsstufe tiefer: Q5_K_M auf Q4_K_M spart meist ein Drittel Speicher bei geringem Qualitätsverlust. Auch ein kürzerer Kontext hilft, weil der KV-Cache mitwächst. Erst danach kleineres Modell oder zweite Karte erwägen.