AIや機械学習は高精度な予測を実現する一方で、「なぜその結果になったのか分からない」という課題を抱えています。
特に深層学習や複雑な機械学習モデルでは、内部処理がブラックボックス化しやすく、判断根拠を人間が理解することが困難です。
医療、金融、採用、人事評価など、AIの判断が人の生活や将来に大きな影響を与える場面では、単に結果を出すだけでは十分ではありません。
「なぜその判断をしたのか」を説明できることが重要になります。
こうした背景から注目されているのが「SHAP（SHapley Additive exPlanations）」です。
SHAPは、AIの予測結果に対して各特徴量がどれだけ影響したかを数値で示し、判断根拠を分かりやすく説明する技術です。
本記事では、SHAPの仕組み、特徴、活用方法、LIMEとの違いまで詳しく解説します。
SHAPとは
SHAP（SHapley Additive exPlanations）とは、機械学習モデルの予測結果に対し、各特徴量がどれだけ影響したかを定量的に説明する手法です。
AIが出した予測結果について、「どの要素が、どの程度結果を押し上げたのか」あるいは「どの要素が結果を下げたのか」を数値として示します。
例えば住宅価格予測AIが次のような結果を出したとします。
予測価格：5,000万円
その理由として、
- 駅から近い：＋800万円
- 面積が広い：＋600万円
- 築年数が古い：−300万円
のように、各要素の影響度を可視化できます。
単なる「重要そう」という説明ではなく、具体的な数値で理由を示せる点がSHAPの特徴です。
SHAPの元になったシャープレイ値とは
SHAPはゲーム理論の考え方を利用しています。
もともとの基盤は「シャープレイ値（Shapley Value）」と呼ばれる概念です。
協力ゲームの報酬分配問題
ゲーム理論では、複数のプレイヤーが協力して得た報酬を公平に分配する問題があります。
例えば、3人で共同作業して100万円を獲得したとします。
問題は、「誰がどれだけ貢献したのか」です。
シャープレイ値は、全ての参加パターンを考慮しながら、各人の平均的な貢献度を計算します。
SHAPはこの考え方をAIへ応用しています。
SHAPでは特徴量をプレイヤーとして考える
機械学習では次のように置き換えます。
- プレイヤー → 特徴量
- 報酬 → 予測結果
つまり各特徴量が予測へどれだけ貢献したかを計算します。
例えば融資審査AIなら、
特徴：
- 年収
- 勤続年数
- 年齢
- 過去の返済履歴
これらが予測結果にどの程度寄与したかを算出します。
その結果、「年収が高かったため評価が＋0.15上昇」のような説明が可能になります。
SHAPの大きな特徴
SHAPが高く評価される理由は、数学的な裏付けがある点です。
特に重要な性質が2つあります。
一貫性（Consistency）
一貫性とは、ある特徴量の影響力が大きくなれば、SHAP値も必ず大きくなる性質です。
つまりモデルが特定特徴を強く利用しているほど、その重要度が正しく反映されます。
これは説明結果の信頼性向上につながります。
加法性（Additivity）
SHAPでは各特徴量の影響を足し合わせると、最終予測との差分になります。
簡単に言えば、基本予測値＋各特徴の影響＝最終結果という関係になります。
この性質によって説明の整合性が保たれます。
SHAPの可視化例
SHAPは視覚的な分析にも強みがあります。
代表的な可視化方法として以下があります。
Force Plot
予測結果に対して、各特徴が押し上げたか押し下げたかを矢印で表示します。
例：
住宅価格予測
価格上昇：
- 面積
- 駅距離
価格低下：
- 築年数
結果を直感的に理解できます。
Summary Plot
データ全体の傾向を可視化します。
例えば、重要特徴ランキング：
- 年収
- 勤続年数
- 年齢
のような分析が可能です。
個別だけでなく全体分析もできる点は大きな利点です。
SHAPとLIMEの違い
SHAPと比較される代表技術がLIMEです。
どちらも説明可能AI（XAI）の手法ですが、考え方が異なります。
| 比較項目 | SHAP | LIME |
|---|---|---|
| 理論基盤 | ゲーム理論 | 局所近似 |
| 安定性 | 高い | 変動しやすい |
| 説明の整合性 | 高い | 近似中心 |
| 計算コスト | 高い | 比較的軽い |
| 全体分析 | 可能 | 限定的 |
LIMEは近傍データを使った近似手法ですが、SHAPは数学的保証があるため、より理論的に整合性の高い説明が可能です。
SHAPの課題
便利なSHAPですが、課題もあります。
計算量が非常に大きい
本来、シャープレイ値は特徴量の全組み合わせを計算する必要があります。
特徴量数が増えると、計算量は指数関数的に増加します。
そのため実務では高速化手法が利用されています。
代表例：
- TreeSHAP
- DeepSHAP
これにより実用レベルの処理速度を実現しています。
SHAPの活用事例
金融審査
融資AIが審査結果を説明する際に利用されます。
「なぜ否認されたのか」を数値で説明できます。
医療診断
病気予測AIが、
- 年齢
- 血圧
- 検査結果
のどれが診断へ影響したか分析できます。
不正検知
クレジットカード不正利用検知では、「なぜ異常と判断したか」を調査できます。
監査用途でも利用されています。
まとめ
SHAPは、AIの予測結果に対して特徴量の影響度を定量的に説明する技術です。
ブラックボックス問題の解決だけでなく、AIの信頼性向上や説明責任の実現にも重要な役割を担っています。
ポイントを整理すると次の通りです。
- SHAPはシャープレイ値を応用した説明手法
- 各特徴量の影響を数値化できる
- 一貫性と加法性を持つ
- 個別説明と全体分析の両方に利用可能
- 計算コスト削減のためTreeSHAPなどが活用される
今後AIの社会利用が広がるほど、「精度の高いAI」だけではなく、「納得できる説明を行えるAI」の重要性はさらに高まっていくでしょう。
こちらもご覧ください：LIMEとは？AIの判断理由を説明する仕組みと特徴をわかりやすく解説
