AMD Radeon RX 9070 XT(16GB)での「rx9070xt_16gb-ud-iq4-xs」実行は、処理速度とエネルギー効率のバランスが優れており、ローカルAI推論において堅実な選択肢となります。この構成は、VRAMの制約内で高品質な推論を維持しつつ、電力消費を現実的な範囲に収めることに成功しています。

速度と電力のバランス

このモデル設定における読み込み速度は秒間1652トークン、書き込み速度は秒間53.8トークンという数値が記録されています。これらの数字は、StratエンジンがGPUの帯域幅をどのように利用しているかを示しています。また、電力消費は454Wと測定されており、これは高性能GPUにおける典型的な負荷を示しています。

実測値の確認方法

ユーザー自身でこれらの数値を確認するには、Stratクライアントのリアルタイムモニタリング機能を使用します。VRAMの使用率は16GBの上限内で最適化されており、ボトルネックを防いでいます。これらのデータは、特定のハードウェア条件下でのみ有効です。

実測データ

項目数値備考
VRAM16GB使用可能なメモリ容量
読み込み速度1652 t/s処理能力の指標
書き込み速度53.8 t/s生成速度の指標
消費電力454W負荷時の電力消費

Ud-iq4-xsの定義

「Ud-iq4-xs」は、特定の量子化手法を用いてモデルの重みを圧縮し、VRAM使用量を最小限に抑えつつ推論精度を維持するための技術仕様です。