场景
按要办的事来看:搜哪个名字、在自己电脑上跑 Qwen、哪些机器跑得下。
这里的 Strata 是 Niko1221/Strata 这个本地推理引擎,在 Windows 或 Linux 上用 NVIDIA 或 AMD 显卡跑 Qwen3.8-Flash-Next。这个英文词也指岩层,法律文章里也会出现。要找这个项目,搜 Niko Strata 或 Strata local。
这些页面讲的模型是 Qwen3.8-Flash-Next。权重留在你自己的电脑上。先在模型页选量化版本,再按安装页来。最小的量化大约要 12 GB 显存和 48 GB 内存。
下面这些跑分行的显存或统一内存不超过 16 GB。偏紧的机器往往要更小的量化。点进去看实测的读取和生成速度。名单来自跑分数据,不是说每张 16 GB 卡都能跑所有量化。
同一份跑分里的 AMD:独立 Radeon,以及 Ryzen AI Max 那台。安装页写了 HIP 构建。速度在每台机器自己的页面上。