Einsatz

Die erste Antwort ist langsam

Die erste Anfrage lädt die Gewichte von der Platte in den Speicher — je nach Laufwerk Sekunden bis Minuten. Danach werden sie wiederverwendet. Ist jede Antwort langsam, wird das Modell ausgelagert: zu wenig RAM für die gewählte Quantisierung.