Human-in-the-Loop
Human-in-the-Loop (HITL)
Human-in-the-Loop（ヒューマン・イン・ザ・ループ（人間の関与））とは
ひとことで
AIの処理や判断の流れの中に、人による確認・承認・修正の工程を組み込む考え方。AIの誤りや想定外の動作による影響を抑えるために用いる。
たとえると
新人が作った書類を、上司が最後に目を通してから社外に出すような仕組みです。作業の大部分は新人（AI）に任せても、大事な場面では必ず人のハンコが要る、という流れを最初から決めておきます。
現場ではこう使う
経理部では、AIが請求書を読み取って支払いデータを作成しています。金額が一定以上の支払いや、取引先の口座情報が前回と異なる場合は、自動で処理を止めて担当者の承認を待つよう設定しました。ある日、AIが金額を読み誤った請求書を担当者が承認前に見つけ、誤った振込を防げました。
試験のポイント
EXAM POINT「AIの判断の途中や最後に人が確認・承認する」と出てきたらヒューマン・イン・ザ・ループです。ハルシネーション対策や、AIエージェントに外部送信・支払い・削除など影響の大きい操作をさせる場面でのリスク低減策として問われます。人の評価でモデルを学習させるRLHFは「学習段階」の手法、ヒューマン・イン・ザ・ループは主に「運用時」に人が関与する仕組みと区別しましょう。
混同しやすい用語との違い
- RLHF人の評価を使ってモデルを学習・調整する手法。ヒューマン・イン・ザ・ループは主に運用時の確認・承認の仕組み
- XAIAIの判断の根拠を人が理解できるようにする技術。人が確認するときの助けになるが、人の関与そのものではない
- AI Agent自律的にタスクを進める仕組み。ヒューマン・イン・ザ・ループは、その誤操作や暴走を防ぐために組み込む工程