温度パラメータ(Temperature)は、大規模言語モデル(LLM)の出力における確率的な不確実性やランダム性を制御する重要なハイパーパラメータです。この値を調整することで、同じ入力プロンプトに対して厳密で論理的な回答を得ることも、創造的で多様な表現を生成することも可能になります。Stratatエンジンでは、このパラメータを適切に設定することで、タスクの性質に合わせた最適な出力品質を実現できます。
確率分布と出力の制御
LLMは次の単語を予測する際に、確率分布に基づいてトークンを選択します。温度パラメータはこの確率分布の形状を変更します。温度が低い(0に近い)と、確率の高いトークンがより強く選ばれ、出力は予測可能で決定的になります。一方、温度が高いと、確率の低いトークンも選ばれる可能性が高まり、出力は多様で予測不可能になります。
具体的な動作の違い
Stratatクライアントでは、このパラメータを変更することでモデルの振る舞いを直感的にコントロールできます。例えば、コード生成やデータ分析のような正確性が求められるタスクでは、温度を低く設定することでミスを減らします。反対に、ストーリーテリングやアイデア発散のような創造性が求められるタスクでは、温度を高く設定することで新鮮な表現を引き出します。
| 温度設定 | 出力特性 | 推奨用途 |
|---|---|---|
| 0.1 - 0.3 | 高確実性、反復的、保守的 | コード生成、事実照合、要約 |
| 0.5 - 0.7 | バランス型、論理的かつ柔軟 | 一般的な質問応答、翻訳 |
| 0.8 - 1.2 | 創造性、多様性、予測不可能 | 創作、アイデア生成、ロールプレイ |
温度パラメータは、モデルの出力空間におけるサンプリングの鋭さ(シャープネス)を定義する数値です。