v0.2.19
IA 125B sur votre bureau
NVIDIA ou AMD · 12 Go+ VRAM · Windows & Linux

v0.2.19
Strata 0.2.19
Strata 0.2.19 The app and the Terminal are 0.2.19. The engines (strata-engine, the new strata-inkling shape engine, and the updated Linux SYCL strata-hy4 package) are 0.1.65, and so is Control, the program that installs and updates them. The update feeds are sequence 131 (shared)…

Rien ne quitte votre PC
Après l'installation, modèles et chats restent sur ce PC.

60+ tok/s sur GPU RTX 5070
Le tableau compare les tokens par jour, l'électricité et le seuil de rentabilité.

API compatible OpenAI
Téléchargez le moteur, puis pointez Cursor ou Codex vers 127.0.0.1:8080.
À lire
- Project Maya deep dive: running GLM-5.3-Flash (321B MoE) on your own NVIDIA GPUs, built on Strata
@coldniko · il y a 46 jours · Versions · Benchmarks
- New release is out!
@coldniko · il y a 46 jours · Versions · Benchmarks
- Strata wins by a tight margin against other Strix Halo inference engines on first try release
@coldniko · il y a 47 jours · Versions · Benchmarks
- Strata wins by a tight margin against all other Strix Halo inference engines in it’s first try release. Did not expect that! 🥳 https://t.co/7Ie0lXa85c
@coldniko · il y a 47 jours · Versions · Benchmarks
Usages
Commencez par votre question. Chaque guide se termine par l’étape suivante.
- Exécution de rtx4090-q2-0 sur RTX 4090 : Bilan et Performance
- Tests RTX 4090 iq2-xs : Latence, coût et performance locale
- rtx4090-iq3-xxs test : performance et consommation locale
- RTX 4090 iq3-s: local inference that stays cool and fast
- Test de performance du modèle Coder sur RTX 4090 : analyse locale
- RTX 4090 ud-iq4-xs local inference: fast, cheap, private
Laisser l'IA installer
Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.
Fil auteur
@coldniko
- Project Maya deep dive: running GLM-5.3-Flash (321B MoE) on your own NVIDIA GPUs, built on Strata
- Small patch coming in approx 1h for this issue
- Only loses to @ciruai engine on Hermes benchmarks. Kudos 🫡