Pull requests / #3213

#3213 Add tps to "reading the prompt" line

closed · @arabek · 0 Kommentare · Auf GitHub

needs-format

Beschreibung

now: reading the prompt: 16,384 of 108,024 tokens, 2923.0 tok/s, 6 s so far

Mehr auf der Site

Links zu Install, Modellen, Releases.