💻 ITパスポート ｜ テクノロジ系
説明可能なAI（XAI）
とは？
AIがなぜその答えを出したか、人間が理解できる形で「理由」を示してくれるAI。
🎬 こんなシーンを想像
？
融資審査システムがAIで自動判断。あなたの融資申請は「否決」に。担当者に理由を聞いても「AIが決めたので説明できません」と言われた。
これがブラックボックス問題。
なぜNGか分からないと、誤りを修正することも信頼することもできない。
→ AIに「説明責任」を持たせる仕組みが XAI（説明可能なAI）。
🔍 ブラックボックスAI vs 説明可能AI（XAI）
ブラックボックスAI
INPUT（データ）
▼
謎の処理
（理由はない）
▼
OUTPUT（答えだけ）
XAI（説明可能なAI）
INPUT（データ）
▼
処理＋理由を生成
（根拠が見える）
▼
答え＋
「なぜか」の説明
📋 XAIが重要な場面と技術
① 高リスク判断（医療・金融・法務）
がん診断・融資審査・採用判断など、人の人生に関わる場面では「なぜそう判断したか」が法的・倫理的に必要。EU AI法でも高リスクAIへの説明要求あり。
▼
② AI偏りの発見と修正
AIが差別的な判断をしていないか確認するには、根拠が見えなければ検証できない。XAIは「どの特徴が判断に影響したか」を可視化して、バイアス（偏り）の修正を可能にする。
▼
③ 人間の信頼獲得と受け入れ
「理由が分かるAI」は現場スタッフが納得して使える。説明できないAIは「本当に正しいの？」と疑われ、現場での活用が進まない。
▼
④ 代表的なXAI手法（参考）
LIME（局所的な近似モデルで理由を説明）・SHAP（各特徴量の影響度を数値化）・注意機構（どこに注目したかを可視化）など。ITパスポートでは手法名より「目的と概念」を問われる。
⚠️ ひっかけ注意ポイント
「精度が高いAI＝XAI」ではない
精度と説明可能性は別の概念。ディープラーニングは精度は高いがブラックボックスになりやすい。XAIは精度より「理由を示せるか」が本質。
「ハルシネーション対策」と混同しやすい
ハルシネーション（生成AIの嘘）はXAIとは別問題。XAIは「なぜその答えを出したか」を説明する仕組み。ハルシネーション抑制は精度・品質の問題。
「自動化バイアス」との混同
自動化バイアスは「AIの出力を無批判に信じすぎる人間の心理」。XAIはAI側の説明責任。主語が違う（AI側 vs 人間側）。
判断のコツ
「AIが
なぜその判断をしたか
分かるようにする」→ XAI（説明可能なAI）。
🧠 覚え方（無理やりゴロ）
X（バツ）がついた理由を説明してくれるAI
＝ XAI
X＝Explainable（説明できる）/ AI＝人工知能
「
エックスAI
は
エグい説明
をしてくれる」
エグい＝びっくりするくらい詳しく理由を話す → 説明可能
ITパスポート 詳細解説 ／ itp-xai ／ HTML+SVG（文字はすべてテキスト）