Fine-tuning
Fine-tuning
Fine-tuning（ファインチューニング（微調整））とは
ひとことで
事前学習済みのモデルに、特定の業務や分野のデータを追加で学習させ、その用途に合うように調整すること。モデルの重み（パラメータ）自体を更新する点が特徴。
たとえると
一般的な料理を一通りできる料理人を、和食店で数週間修業させて、その店の味付けや盛り付けを身につけてもらうようなものです。基本の腕前はそのままに、特定の店に合った料理が作れるようになります。
現場ではこう使う
保険会社のコールセンターでは、汎用的な生成AIの回答が業界特有の言い回しに合わないことが課題でした。そこで、過去の模範的な応対記録を使ってモデルをファインチューニングし、自社の用語や応対の型に沿った回答を出せるようにしました。ただし、商品内容が改定されるたびに学習し直す手間がかかるため、最新の約款の情報はRAGで参照させる構成にしました。
試験のポイント
EXAM POINT「事前学習済みモデルに追加のデータで学習」「特定のタスクや分野に適応させる」と出てきたらファインチューニングです。モデル自体を学習し直す点で、回答時に資料を渡すRAGや、指示の書き方を工夫するFew-Shotなどのプロンプト技法とは区別しましょう。少ないデータで学習しすぎると過学習を起こす点にも注意が必要です。
混同しやすい用語との違い
- RAGモデルは変えず、回答時に検索した資料を渡す。情報の更新がしやすい
- Few-Shotプロンプトの中に例を示して出力を誘導する。モデル自体は学習し直さない
- Pre-training大量のデータで基礎能力を作る最初の学習。ファインチューニングはその後の調整