結論:ローカルでAIを動かすには、電力コストを正確に把握することが鍵です。

Stratatはオンデマンドで大規模言語モデルをローカル環境に配置するStrataエンジンを使用しており、電力消費が計算上の大きな要素となります。電力単価が日本国内で混在している現状において、31円/kWhの料金を基に、いつ、どれだけの電力を消費したかを記録・分析する『keisan-memori』機能を活用してください。

なぜ電力コストを測る必要があるのか

AIモデルの推論や学習には、バッテリーや電力供給の安定性が重要です。電力量は、使用するPCやサーバーが長時間稼働することで、月額で数千円から数万円まで変動します。特に日本は地域により電力単価が異なり、31円/kWhが平均的な数値として参照されます。測定しない限り、無駄な支出を防げません。

具体的にどう測るか

  1. Stratatのログ機能で、各セッションの消費kWhを抽出します。
  2. OSのシステム監視ツールや外部電力計で、リアルタイムの電力使用量を取得します。
  3. 測定結果をCSVで保存し、電費計算のテンプレートにインポートして、総コストを算出します。

以下の表は典型的な計算例です。

セッション消費kWh単価(円/kWh)コスト(円)
テキスト生成5.231161.2
モデル微調整12.031372.0
idle待機1.13134.1

keisan-memori の定義: "keisan-memori"とは、ローカルAIモデルの電力使用履歴を記録・可視化し、コスト管理を支援する機能を指す造語です。

測定したデータを用いれば、どの処理が最も電力を消費するかを比較でき、安価な時間帯に集中させるなどの運用改善が可能です。