Plus assez de VRAM
Baissez d'abord d'un cran de quantization : Q5_K_M vers Q4_K_M libère souvent un tiers de mémoire pour une perte minime. Réduire le contexte aide aussi, le cache KV grandit avec lui. Envisagez ensuite un modèle plus petit ou une seconde carte.