Hardware
62 praxisnahe Guides in „Hardware“, gestützt auf reale Hardware-Messwerte.
- Stratat rtx4090-iq2-xs: lokales iq2-xs quantisieren
Ein editorialer Leitfaden zur lokalen Ausführung des Stratat-Strangers Engine mit der iq2-xs Quantisierung auf einer RTX 4090.
- rtx4090-iq3-xxs on local AI: measured performance and power use
A focused look at running the iQ3-xxs quantized model on a single RTX 4090 laptop, with measured VRAM usage, inference throughput, and energy consumption for local workflows.
- RTX 4090-iq3-s: local IQ3-s quantization on the flagship consumer GPU
Our tests show that the RTX 4090-iq3-s achieves 4000 reading tps and 109.3 writing tps while drawing 550 W, fitting the 24 GB VRAM budget.
- rtx4090 coder quantization: 24GB VRAM fast local inference
We profiled the Coder quantization on a single RTX 4090. Reading throughput reached 4000 tokens per second, while writing was about 109.3 tokens per second. Power draw settled near 550 W.
- rtx4090-ud-iq4-xs on local: fast inference with ud-iq4-xs quantization
We measured the ud-iq4-xs quantization on an RTX 4090 and found reading throughput of about 4000 tokens per second and writing about 109.3 tokens per second.
- rtx5090-q2-0 runnen lokal mit Strata: 5,8k tokens/s auf einer RTX 5090
Das lokal laufende Strata-Engine-Modell mit der q2-0-Quantisierung auf einer Nvidia RTX 5090 erreicht etwa 5,8 million Lesetipps pro Sekunde und 168 Lesetipps pro Sekunde bei 700 Watt Verbrauch.
- Stratat rtX 5090 mit iq2-xs Quantisierung lokal ausführen
Stratat ermöglicht das lokale Ausführen großer KI-Modelle auf der RTX 5090 mit der IQ2-XS-Quantisierung. Das Modell erreicht 5803 Lese-TPS und 168,4 Schreib-TPS bei 700 Watt Verbrauch.
- Stratat rtX 5090 mit iq3-xxs Quantisierung: lokale Inferenz in Echtzeit
Ein praktischer Test der neuesten Quantisierung iq3-xxs auf einer RTX 5090 via Stratat. Gemessene Performance: 5803 Lese-TPS und 168,4 Schreib-TPS bei 700 Watt Verbrauch.
- rtx5090-iq3-s test: Local run and power use
A practical review of running the rtctx5090-iq3-s quantization on an RTX 5090 desktop. Benchmarks show 5803 reading tps and 168.4 write tps with 700W power draw. Useful for local private AI workloads.
- RTX 5090 mit Coder Quantisierung auf dem Strata Engine
Ein realer Testlauf zeigt, wie das lokale Strata-Client-App mit der coder Quantisierung auf einer RTX 5090 läuft. Wir haben gemessen, wie schnell und stromsparend das Modell auf einem einzelnen…
- rtx5090-ud-iq4-xs mit ud-iq4-xs Quantisierung: lokal und schnell
Das Strata-Engine-Client-File zeigt, wie die RTX 5090 mit der ud-iq4-xs Quantisierung eines großen KI-Modells auf lokaler Hardware läuft.
- RTX 5080 mit Q2-0 Quantisierung: LLM lokal betreiben
Ergebnisse für RTX 5080 mit Q2-0 Quantisierung: 16GB VRAM, 80,7 Token/s, 510W. Analyse zu Leistung, Effizienz und Stromverbrauch für lokale KI.
- RTX 5080 IQ3-XXS: Effiziente lokale KI-Ausführung
Test der RTX 5080 mit IQ3-XXS Quantisierung: 80,7 Token/Sekunde, 510W Leistung. Analyse der Effizienz und Kosten für lokale KI-Modelle.
- RTX 5080 iq3-s: Performance, VRAM und Stromverbrauch im Test
Erfahren Sie, wie sich das RTX 5080 mit iq3-Quantisierung verhält. Analysieren Sie VRAM, Tokens pro Sekunde und den Energieverbrauch für lokale KI-Inferenz.
- rtx5080-ud-iq4-xs mit ud-iq4-xs Quantisierung ausführen
Ein Überblick, wie man das lokale Strata-Engine-Modell auf einer RTX 5080 mit der ud-iq4-xs Quantisierung betreibt. Messbare Leistung, VRAM-Nutzung und Energieverbrauch werden transparent…
- rtx3090-q2-0 on Stratat: fast local inference with measured throughput
We tested a single RTX 3090 running the q2-0 quantization of a local model via Stratat. Throughput measured at 2094 reads/s and 86.5 writes/s, using 24 GB VRAM and about 500 W power draw.
- RTX 3090 mit iq2-xs Quantisierung auf lokaler Ebene
Established a reproducible local inference pipeline with the Strata engine for the RTX 3090 running the IQ2-XS quantized Llama family, measuring actual throughput and latency on a single consumer…
- RTX 3090 mit iq3-xxs Quantisierung auf Strata ausführen
Anleitung zum lokalen Betreiben von Strata mit einer RTX 3090 und der iq3-xxs Quantisierung. Misst Daten zur VRAM-Auslastung, Latenz und Stromverbrauch im Bearbeitungsfenster.
- Stratat rtX 3090 IQ3-S locally: 2094 tps read, 86.5 tps write
Stratat lets you run a local AI model with the IQ3-S quantization on an RTX 3090. Measured throughput is about 2094 reads per second and 86.5 writes per second from 24 GB VRAM while drawing 500 W.
- RTX 3090 mit Coder-Quantisierung auf Strata ausführen
Ein kurzer, faktenbasierter Leitfaden zum lokalen Betreiben eines großen KI-Modells auf einer RTX 3090 mit der Coder-Quantisierung im Strata-Client.
- rtx3090-ud-iq4-xs on local AI: measurable speed and power
We tested the ud-iq4-xs quantization on an RTX 3090 and recorded reading and writing throughputs together with power draw.
- RTX 5070 Ti mit Qwen-2-7B-q2-0: Effiziente lokale KI-Performance
Analysieren Sie die RTX 5070 Ti für Qwen-2-7B-q2-0: 16 GB VRAM, 450 Watt Leistungsaufnahme und 71,1 Tokens pro Sekunde. Erfahren Sie, wie Sie die Effizienz Ihrer lokalen Hardware messen und optimieren.
- RTX 5070 Ti mit iq2-xs iq in Strata: lokale Inferenz auf der GPU
Strata ermöglicht die Ausführung eines quantisierten lokalen Modells auf der RTX 5070 Ti. Messungen zeigen 2498.5 Lese-TPS und 71.1 Schreib-TPS mit 450 Watt Verbrauch.
- rtx5070-iq3-xxs auf RTX 5070 Ti: Benchmarks und Leistungsbewertung
Ergebnisse zur iq3-xxs-Quantisierung auf NVIDIA RTX 5070 Ti: VRAM-Auslastung, Tokens pro Sekunde und Stromverbrauch im lokalen Test. Analyse der Effizienz.
- RTX 5070 Ti mit Coder quantization: coder inference TPS
We tested running a local LLM with the Strata engine on an RTX 5070 Ti using the coder quantization. The setup uses 16 GB VRAM, delivers 2498.5 reading TPS and 71.1 writing TPS while drawing 450 W.
- RTX 5070 Ti mit ud-iq4-xs Quantisierung auf Strata laufen
Ein Review, wie man ein lokales Strata-Modell auf einer NVIDIA-RTX 5070 Ti mit der ud-iq4-xs-Quantisierung in Stratat ausführt.
- rtx4070ti_super-q2-0 performance on local Strata
Benchmarks the q2-0 quantized Strata engine on a single RTX 4070 Ti SUPER 16GB, showing reading and writing throughput, power draw, and suitability for local LLM serving.
- rtx4070ti_super-iq3-xxs im Einsatz: Lokal laufende Strata-Quantisierung
Die RTX 4070 Ti SUPER 16GB mit der iq3-xxs Quantisierung erreicht 1700 Lese- und 72 Schreibtreppen pro Sekunde auf dem Strata-Engine-Client.
- rtx4070ti_super-coder VRAM performance: solid 1700 tps for coder quantization
We measured the RTX 4070 Ti SUPER 16GB running the coder quantization with the Strata engine. Reading throughput reached 1700 tokens per second while writing slowed to 72 tps.
- rtx4070ti_super-ud-iq4-xs Local Run with Strata
Run the ud-iq4-xs quantization of the Strata engine on an RTX 4070 Ti SUPER 16GB with 16GB VRAM. Measure throughput and power usage directly on your machine.
- AMD Radeon RX 7900 XTX mit Qwen2.5-3B-Q2_0: LLM-Laufwerkstest
Läuft Qwen2.5-3B-Q2_0 auf der RX 7900 XTX stabil? Wir testen VRAM-Auslastung, Token pro Sekunde und Stromverbrauch unter realen Bedingungen.
- RX7900XTX IQ2-XS Inference mit Strata: 1.46k TPS on 24GB VRAM
Measured performance for the AMD Radeon RX 7900 XTX running the iq2-xs quantization via the Strata desktop client. Text is based on observed reading and writing throughputs, power consumption, and…
- RX 7900 XTX mit IQ3-XXS: Geschwindigkeit und Effizienz im lokalen Test
Analyse der AMD RX 7900 XTX mit IQ3-XXS-Quantisierung. Erfahren Sie mehr über die Geschwindigkeit, den VRAM-Verbrauch und die Stromkosten für lokale KI-Inferenz.
- RX 7900 XTX mit IQ3-S Quantisierung: Leistungstest
Test der AMD Radeon RX 7900 XTX mit IQ3-S Quantisierung. Messwerte zu VRAM, Tokens pro Sekunde und Stromverbrauch für lokale KI-Modelle.
- AMD RX 7900 XTX LLM Benchmark: Coder-Quant
Erfahren Sie, ob die AMD RX 7900 XTX mit 24 GB VRAM für lokale Coder-Modelle ausreicht. Analyse von Leistung, Stromverbrauch und Kosten in Deutschland.
- RX7900 XTX mit ud-iq4-xs Quantisierung: lokal KI auf AMD
Testing die AMD Radeon RX 7900 XTX mit der ud-iq4-xs Quantisierung und dem Strata Engine. Messungen auf einem lokalen Rechner zeigen Lese- und Schreibraten sowie Energieverbrauch.
- rx9070xt_16gb-q2-0 lokal: 1652 tps read on AMD 9070 XT
Test the AMD Radeon RX 9070 XT with the rx9070xt_16gb-q2-0 quantization in Strata. Measured read speed 1652 tps, write 53.8 tps, power draw 454 W, VRAM 16 GB.
- RX 9070 XT mit IQ2-XS: 16 GB VRAM für lokale KI-Modelle
Praxisbericht zur AMD RX 9070 XT mit 16 GB VRAM: IQ2-XS-Quantisierung ermöglicht effizientes Running von LLMs. Messwerte zu TPS, Leistungsaufnahme und Speicherauslastung im Detail.
- rx9070xt_16gb-iq3-xxs auf AMD RX 9070 XT: lokales Quantisieren im Test
Testet das IQ3-XXS quantized Stratat engine auf AMD Radeon RX 9070 XT 16GB, zeigt Lese- und Schreib-TPS sowie Stromverbrauch. Ideal für lokale, datenschutzfreundliche KI.
- AMD RX 9070 XT 16GB Coder: Lokales Inferenz-Review
Praxis-Test der AMD RX 9070 XT mit 16 GB VRAM für Coder-Modelle. Analyse zu Geschwindigkeit, Stromverbrauch und Effizienz für lokale KI.
- rx9070xt_16gb-ud-iq4-xs on AMD Radeon RX 9070 XT
Tested performance of the ud-iq4-xs quantization on a 16GB Radeon RX 9070 XT. Reading throughput reaches 1652 tps while writing is 53.8 tps. Power draw is 454 W. Fit is Good for local AI workloads.
- RTX 4070 12GB mit q2-0-Quantisierung: lokales Strata-Modell nutzen
Ein praktischer Leitfaden, wie man ein großes KI-Modell lokal auf einer RTX 4070 mit 12 GB VRAM und der q2-0-Quantisierung betreibt.
- rtx4070-iq2-xs mit dem iq2-xs Quantisierungsmodell auslesen und testen
Eine kurze Anleitung zum Auslesen und Testen eines lokal laufenden Strata-Modells auf einer RTX 4070 mit 12 GB VRAM und der iq2-xs Quantisierung.
- RTX 4070 IQ3-XXS Quantization: Local Inference Benchmarks
We tested the IQ3-XXS quantization on an RTX 4070 12GB GPU with Static pages. Measurements include reading and writing TPS, VRAM usage, and power draw.
- RTX 4070 IQ3-S Quantization Performance on Local LLaMA
Tested RTX 4070 12GB with IQ3-S quantization achieves 1376 reading TPS and 36.9 writing TPS. Power draw stays near 350W. Fit for inference workloads.
- RTX 4070 12GB mit Coder Quantization läuft lokal effizient
Wir haben ein Desktop-Programm gebaut, das ein lokales LLM auf einer NVIDIA GeForce RTX 4070 mit 12 GB VRAM ausführt und dabei die Coder-Quantisierung nutzt.
- RTX 4070 mit ud-iq4-xs Quantisierung lüftet das Strata Engine-Potenzial
Tested end-to-end on a single RTX 4070 12 GB workstation running the Stratat client with the ud-iq4-xs quantization. The model reads and writes at 1376 and 36.9 tokens per second respectively while…
- RTX 3090 Ti mit Q2-0 Quantisierung: Leistungsdaten und Effizienzanalyse
Analysieren Sie die RTX 3090 Ti mit Q2-0 Quantisierung. Wir prüfen VRAM, Token-Raten, Stromverbrauch und Kosten bei 0,32 €/kWh für lokale KI-Modelle.
- RTX 3090 Ti mit iq2-xs Quantisierung auf Strata laufen
Ein Überblick, wie Sie das q-2-xs-Quantisierte Modell lokal auf einer RTX 3090 Ti im Strata-Client betreiben. Messbare Durchsatzwerte, Energieverbrauch und praktische Schritte für den Betrieb.
- RTX 3090 Ti mit der iq3-xxs Quantisierung im Strata Engine
The Strata desktop app runs a large local model on an RTX 3090 Ti using the iq3-xxs quantization. Benchmarks show 2255.1 reads per second and 93.1 writes per second on a single inference run.
- rtx3090ti-iq3-s Quantisierung: lokales JKL-Modell auf einer 3090 Ti
Eine praxisnahe Messung der Inferenzleistung von Strata mit der iq3-s Quantisierung auf einer RTX 3090 Ti. Es werden Lese- und Schreib-TPS sowie der Stromverbrauch gemessen und verglichen.
- RTX 3090 Ti mit Coder-Quantisierung auf Strata
Strata ermöglicht das lokale Ausführen eines großen Sprachmodells auf einer RTX 3090 Ti mit der Coder-Quantisierung. Messungen zeigen 2255 Lesen pro Sekunde und 93 Schreiben pro Sekunde bei 600 Watt…
- RTX 3090 Ti mit ud-iq4-xs Quantisierung auf Stratat laufen
Stratat ermöglicht das lokale Ausführen eines großen KI-Modells mit der Quantisierung ud-iq4-xs auf einer RTX 3090 Ti. Das Modell belegt 24 GB VRAM und liefert 2255 Lesetpsel pro Sekunde bei 93…
- RTX PRO 6000 Blackwell mit iq2-xs Quantisierung lokal betreiben
Das Strata-Engine nutzt die iq2-xs Quantisierung auf einer RTX PRO 6000 Blackwell und bietet ein gutes Verhältnis von Lese- und Schreibleistung für lokale Inferenz.
- rtxpro6000-iq3-xxs auf RTX PRO 6000 Blackwell: 96 GB VRAM für lokale KI
Testbericht: rtXpro6000-iq3-xxs auf der RTX PRO 6000 Blackwell. 96 GB VRAM, 720 Watt Verbrauch und messbare TPS. Analyse für lokale KI-Infrastruktur in Deutschland.
- rtxpro6000-ud-iq4-xs mit ud-iq4-xs Quantisierung: lokale Inferenz auf einem Blackwell
Kurze Übersicht zur Nutzung des RTX PRO 6000 Blackwell mit der ud-iq4-xs Quantisierung im Strata-Client. Messungen zeigen etwa 8988 Lese- und 171 Schreib-TPS bei 720 Watt Verbrauch.
- Bewertung: LLM mit q2-0 Quantisierung auf Mac Studio M5 Ultra
Analyse der Leistung von q2-0 Modellen auf dem Mac Studio M5 Ultra (96 GB). VRAM-Auslastung, Tokens pro Sekunde und Stromverbrauch bei 360 Watt im Detail.
- Benchmark iq2-xs auf Mac Studio M5 Ultra: Leistung und Stromverbrauch analysieren
Analyse des iq2-xs-Modells auf dem Mac Studio M5 Ultra mit 96 GB VRAM. Fakten zu Geschwindigkeit, Stromverbrauch und Effizienz für lokale KI.
- Mac Studio M5 Ultra 96 GB mit iq3-xxs Quantisierung: Leistung und Effizienz Analyse
Ergebnisse zum Mac Studio M5 Ultra mit 96 GB VRAM. iq3-xxs Quantisierung bietet gute Auslastung. Messwerte zu Geschwindigkeit und Stromverbrauch im Detail.
- Lokales IQ3-S auf Mac Studio M5 Ultra: Effiziente KI mit 96 GB VRAM
Praxis-Check: IQ3-S Quantisierung auf dem Mac Studio M5 Ultra mit 96 GB RAM. Analyse zu Geschwindigkeit, Energieverbrauch und Kosten bei 0,32 € pro kWh.
- Mac Studio M5 Ultra 96 Coder: LLM Laufen auf lokaler Hardware
Analyse zum Mac Studio M5 Ultra mit 96 GB RAM. Wir prüfen die Performance des Coder-Modells, die Geschwindigkeit und die Stromkosten bei lokaler Inferenz.
- Mac Studio M5 Ultra 96 GB: ud-iq-xs Benchmark
Praxisbericht zur ud-iq-xs Quantisierung auf dem Mac Studio M5 Ultra. Wir analysieren die 96 GB VRAM, die Geschwindigkeit und die Stromkosten für lokale KI-Modelle.