场景

16 GB 及以下

下面这些跑分行的显存或统一内存不超过 16 GB。偏紧的机器往往要更小的量化。点进去看实测的读取和生成速度。名单来自跑分数据，不是说每张 16 GB 卡都能跑所有量化。

• 全部跑分
• 模型