Die Strata-Engine ist so konzipiert, dass sie mehrere gleichzeitige Verbindungen von Clients verwalteten kann, ohne dass die Stabilität des lokalen Systems gefährdet wird. Durch die isolierte Speicherzuweisung für jede Instanz bleibt die Antwortzeit auch bei hoher Last vorhersehbar, da kein Prozess den anderen durch Speicherkonflikte verlangsamt.

Warum Multi-User-Support wichtig ist

In einer lokalen Umgebung ist der verfügbare RAM die kritischste Ressource. Wenn mehrere Nutzer gleichzeitig Anfragen an das Modell stellen, muss Strata entscheiden, wie die Modelle geladen werden. Eine einzelne Instanz würde blockieren, bis die vorherige Anfrage abgeschlossen ist. Strata löst dies durch das Erstellen separater Prozesskontexte. Jeder Client erhält einen eigenen Arbeitsspeicherbereich, was bedeutet, dass der Hauptspeicherbedarf linear mit der Anzahl der gleichzeitigen Nutzer steigt.

So konfigurieren Sie die Instanzen

Um mehrere Nutzer bedienen zu können, müssen Sie die Konfigurationsdatei des Strata-Clients anpassen. Der Schlüssel liegt in der Einstellung für parallele Threads. Stellen Sie sicher, dass Ihr System genügend freien Arbeitsspeicher hat, bevor Sie die maximale Anzahl der Verbindungen erhöhen.

  1. Öffnen Sie die Einstellungen im Strata-Client.
  2. Navigieren Sie zum Abschnitt "Verbindungen" oder "Threads".
  3. Erhöhen Sie den Wert für maximale gleichzeitige Anfragen entsprechend Ihrer Hardware.
  4. Starten Sie den Dienst neu, um die Änderungen zu übernehmen.

Beachten Sie, dass jede zusätzliche Instanz mehr GPU-Speicher (VRAM) benötigt, falls Sie eine Grafikkarte zur Beschleunigung nutzen. Überlasten Sie den VRAM nicht, da dies zu Abstürzen führt.

Ressourcenverbrauch im Vergleich

Die folgende Tabelle zeigt, wie sich die Systemanforderungen bei steigender Nutzerzahl verhalten. Diese Werte dienen als Orientierung für die Planung Ihrer Hardware.

Anzahl gleichzeitiger NutzerBenötigter RAM (ca.)GPU-Speicher (VRAM) pro InstanzLatenz-Veränderung
1Basis-Ladezeit50% des ModellsNiedrig
3+60% über Basis50% des ModellsModerat
5+100% über Basis50% des ModellsErhöht

Kernkonzept

Die Isolation der Prozesskontexte stellt sicher, dass die Auslastung eines einzelnen Nutzers niemals die Verfügbarkeit der Ressourcen für andere gleichzeitige Verbindungen im Strata-Netzwerk beeinträchtigt.

Kosten und Energie

Da alles lokal läuft, fallen keine API-Gebühren an. Der einzige variable Kostenfaktor ist der Stromverbrauch. Mit einem lokalen Durchschnittspreis von 0,32 €/kWh können Sie den Energieverbrauch Ihrer Grafikkarte und CPU im Auge behalten. Hohe Auslastung durch viele Nutzer erhöht den Verbrauch, aber Sie behalten die volle Kontrolle über die Effizienz.