问题 / #3424

#3424 [GUI] 0.2.1-beta: Хранилище

open · @pin24 · 0 评论 · 去 GitHub 看

Models & quants

说明


Win 10 x64 rtx3090  CPU Ultra core 7  RAM 64gb

Модель скачена и указан каталог SSD на другой диск E:\Strata-data\models\unsloth-UD-Q4_K_XL, но программа не видит модель

<details>
  <summary>art</summary>
<img width="1402" height="940" alt="Image" src="https://github.com/user-attachments/assets/4de80e7a-83a0-4cbb-8949-60a175c4675f" />
</details>

нельзя изменить поле : "Оптимизированные файлы моделей Strata"
на собственный каталог? 

а все эти данные лежат в одном каталоге E:\Strata-data\
для старой версии мой конфиг выглядит так:
<details>
  <summary>Нажмите, чтобы развернуть полный пример ответа API (JSON)</summary>
  
```
{
 "exe": "E:\\Strata\\engine\\strata.exe",
 "args": [
  "--pack",
  "E:\\Strata-data\\packs\\unsloth-ud-q4_k_xl",
  "--native",
  "E:\\Strata-data\\models\\unsloth-UD-Q4_K_XL\\Qwen3.8-Flash-Next-UD-Q4_K_XL-00001-of-00004.gguf",
  "--expert-profile",
  "E:\\Strata\\data\\expert-profile.bin",
  "--expert-cache",
  "auto",
  "--prefill",
  "auto",
  "--spec",
  "4",
  "--spec-min-p",
  "0.5",
  "--mtp",
  "E:\\Strata-data\\mtp\\rt",
  "--max-context",
  "262144",
  "--kv",
  "int8",
  "--resident-experts",
  "--resident-budget-gib",
  "45",
  "--pool-workers",
  "15"
 ],
 "cwd": "E:\\Strata",
 "tokenizer": "E:\\Strata-data\\packs\\unsloth-ud-q4_k_xl\\tokenizer",
 "model_name": "qwen3.8-flash-next-unsloth-ud-q4_k_xl",
 "log": "E:\\Strata\\strata-unsloth-ud-q4_k_xl.log",
 "lib_dirs": [
  "E:\\Strata\\.venv\\lib\\site-packages\\nvidia\\cu13\\bin\\x86_64"
 ],
 "port": 8081,
 "gpu": 0,
 "gpus_asked": true
}
 
```
</details>

вообще непонятно как использовать пункт: Использовать локальный GGUF…
видит модель но не использует ее и не добавляет в список. 

本站相关内容

相关页面的快捷入口。