XAI
Explainable AI
XAI（説明可能なAI）とは
ひとことで
AIがなぜその予測や判断をしたのか、その根拠や過程を人が理解・検証できるようにする技術や考え方。AIの透明性と説明責任（アカウンタビリティ）を高める。
たとえると
数学のテストで、答えだけでなく「途中の式」も書くようなものです。答えが合っていても間違っていても、途中の式があれば、どこでどう判断したのかを先生（人）が確かめられます。
現場ではこう使う
銀行がAIによる融資審査を導入したところ、審査に通らなかった顧客から「なぜ否決されたのか」と問い合わせがありました。担当者がXAIのツールで確認すると、「年収に対する借入額の比率」と「勤続年数」が判断に大きく影響していたことがわかりました。根拠を確認できたことで、顧客への説明と、判断に不適切な偏りがないかの点検ができるようになりました。
試験のポイント
EXAM POINT「AIの判断根拠を人が理解できるようにする」「ブラックボックス問題への対応」と出てきたらXAIです。ディープラーニングのように内部が複雑で判断の理由がわかりにくいモデルほど、XAIの必要性が高まります。AI倫理やガバナンスで重視される「透明性」「アカウンタビリティ（説明責任）」と結び付けて押さえましょう。
混同しやすい用語との違い
- Chain-of-ThoughtAIに考えの途中経過を文章で書かせるプロンプトの工夫。書かれた過程が実際の判断根拠と一致するとは限らない
- Human-in-the-Loop人が判断の流れに入って確認・承認する仕組み。XAIはその確認の手がかりとなる根拠を示す技術
- ELSIAIを社会で使う際の倫理・法・社会の課題を扱う枠組み。XAIはその課題に応える技術的な手段の一つ