Temperature
Temperature (sampling parameter)
Temperature（温度パラメータ）とは
ひとことで
LLMが次のトークンを選ぶときのランダムさ（ばらつき）を調整する設定値。低いほど確率の高い語を選びやすく安定した出力に、高いほど多様で意外性のある出力になる。
たとえると
料理の味付けの「冒険度」を決めるつまみのようなものです。つまみを下げると毎回いつもの定番の味になり、上げると珍しい調味料も使った意外な味が出てきます。ただし上げすぎると、ちぐはぐな料理になることもあります。
現場ではこう使う
開発チームは、社内FAQに答えるチャットボットではTemperatureを低めに設定し、同じ質問には毎回同じような回答を返すようにしました。一方、新商品のキャッチコピーを考える企画用のツールでは高めに設定し、毎回違ったアイデアが出るようにしました。用途に応じて設定を使い分けることで、どちらの目的にも合う出力が得られました。
試験のポイント
EXAM POINT「出力のランダム性（多様性）を調整するパラメータ」で、「値を下げるとばらつきの少ない安定した出力、上げると多様で創造的な出力」と出てきたらTemperatureです。同じく出力の多様性に関わるTop-pは「確率の高い候補をどこまで選択肢に含めるか」で絞り込む点が違います。正確さが重要な業務では低め、アイデア出しでは高めという使い分けが問われます。
混同しやすい用語との違い
- Top-p累積確率がpに達するまでの上位候補だけから次の語を選ぶ。候補の範囲を絞る設定
- TokenLLMが文章を処理する単位。Temperatureはそのトークンの選び方を調整する
- Fine-tuningモデル自体を学習し直して性質を変える。Temperatureは利用時に変える設定値