A primeira resposta é lenta
A primeira requisição carrega os pesos do disco para a memória: de segundos a um minuto conforme o disco. Depois são reutilizados. Se todas demoram, o modelo está sendo trocado — falta RAM para o quant escolhido.
A primeira requisição carrega os pesos do disco para a memória: de segundos a um minuto conforme o disco. Depois são reutilizados. Se todas demoram, o modelo está sendo trocado — falta RAM para o quant escolhido.