使い方

内蔵 GPU のノートで動くモデル

内蔵 GPU はメインメモリを共有するため容量は足りますが帯域が足りません。7〜14B で毎秒 1 桁台のトークンになります。購入前の試用向けで、常用には向きません。