Sans carte graphique
Sans GPU, les quantifications légères tournent, mais à quelques jetons par seconde. Utile pour du traitement par lots ou des résumés, pas pour discuter. Prévoir au moins 32 Go de RAM : les poids sont chargés en mémoire, pas en VRAM.