La primera respuesta es lenta
La primera petición carga los pesos del disco a memoria: de segundos a un minuto según el disco. Después se reutilizan. Si todas tardan, el modelo se está intercambiando: falta RAM para el quant elegido.
La primera petición carga los pesos del disco a memoria: de segundos a un minuto según el disco. Después se reutilizan. Si todas tardan, el modelo se está intercambiando: falta RAM para el quant elegido.