Usos

Qual quantização escolher

Comece por Q4_K_M: o equilíbrio usual entre tamanho e qualidade, e o que a maioria dos relatos usa. Suba para Q5/Q6 só se houver folga e você medir diferença nas suas tarefas. Abaixo de Q4 a perda fica visível em código e raciocínio longo.