使い方

実際どれくらい速いのか

読みは書きより約 40 倍速い。読み 4000 tok/s のカードは書き約 100 tok/s になります。設定ミスではなく、生成が逐次処理・プロンプト処理が並列だからです。異常を疑う前にベンチマーク表と比べてください。