[Google AI Studio] Temperatureについて
- 2024年3月28日
- AI
今回はGoogle AI StudioのTemperatureパラメータ設定について説明します。
大規模言語モデル(ラージランゲージモデル)の生成AIは次に予測される文字(トークン)から確率が高いものを選んで文章を生成しますが、Temperatureパラメータを調整することで確率が高いものを選ぶのか、確率が高くない選択肢も視野にいれるのかを調整することができます。
Google AI StudioではTemperatureは0-1の範囲で調整することができます。
Temperatureを低く設定することで確立が高いもののみを選択するので、同じ質問に対して同じ返答を得る可能性がより高くなります。
Temperatureを高く設定することで確率が高くない選択肢も視野にはいってくるので、よりクリエイティブな返答を得ることができます。
Google社のドキュメントでは、最初は0.2に設定しておき、AIの返答があまりに一般的すぎて面白みのない場合には、設定値を上げていくことが推奨されています。
Temperatureを低く設定する用途
以下のような用途でAIを使用する場合、Temperatureを低く設定するほうがよいとされています。
・AIの返答に正確性を求める場合。
・法的な書類の作成をサポートするAI。
・経理関連の書類の作成をサポートするAI。
・アプリにAIを導入する場合、想定外のレスポンスによるエラーを避けることができる。
Temperatureを高く設定する用途
以下のような用途でAIを使用する場合、Temperatureを高く設定するほうがよい場合が多いです。
・歌や歌詞の作成をサポートするAI。
・キャッチフレーズなどインパクトの強いクリエイティブな言葉の発想がほしいとき。
・ゲームやアニメの登場人物などフィクションのキャラクターのセリフを創造したいとき。
Temperatureの設定変更によるレスポンス例の比較
実際にTemperatureを低く設定した場合と高く設定した場合のレスポンス例を比較してみました。Temperatureを最小値「0」に設定した場合はいつも同じ固定のレスポンスが得られたのに対して、Temperatureを最大値「1」に設定した場合はバラエティに富んだレスポンスを得ることができました。
使用したモデルは「Gemini 1.0 Pro」です。
■天気の種類
Temperature:0
■天気の種類
Temperature:1
■ラップ音楽の歌詞
Temperature:0
■ラップ音楽の歌詞
Temperature:1
木曜日担当: nishida
nishida at 2024年03月28日 10:00:00