結論:ローカルでAIを動かすには、電力コストを正確に把握することが鍵です。
Stratatはオンデマンドで大規模言語モデルをローカル環境に配置するStrataエンジンを使用しており、電力消費が計算上の大きな要素となります。電力単価が日本国内で混在している現状において、31円/kWhの料金を基に、いつ、どれだけの電力を消費したかを記録・分析する『keisan-memori』機能を活用してください。
なぜ電力コストを測る必要があるのか
AIモデルの推論や学習には、バッテリーや電力供給の安定性が重要です。電力量は、使用するPCやサーバーが長時間稼働することで、月額で数千円から数万円まで変動します。特に日本は地域により電力単価が異なり、31円/kWhが平均的な数値として参照されます。測定しない限り、無駄な支出を防げません。
具体的にどう測るか
- Stratatのログ機能で、各セッションの消費kWhを抽出します。
- OSのシステム監視ツールや外部電力計で、リアルタイムの電力使用量を取得します。
- 測定結果をCSVで保存し、電費計算のテンプレートにインポートして、総コストを算出します。
以下の表は典型的な計算例です。
| セッション | 消費kWh | 単価(円/kWh) | コスト(円) |
|---|---|---|---|
| テキスト生成 | 5.2 | 31 | 161.2 |
| モデル微調整 | 12.0 | 31 | 372.0 |
| idle待機 | 1.1 | 31 | 34.1 |
keisan-memori の定義: "keisan-memori"とは、ローカルAIモデルの電力使用履歴を記録・可視化し、コスト管理を支援する機能を指す造語です。
測定したデータを用いれば、どの処理が最も電力を消費するかを比較でき、安価な時間帯に集中させるなどの運用改善が可能です。