画像認識AIは、人間を超える精度で物体を識別できる場面も増えてきました。
しかし、AIが「なぜその判断をしたのか」が分からないという問題があります。
例えば、AIが画像を「犬」と判定した場合、人間は「犬の顔を見たのか」「体全体を見たのか」「背景を誤って判断材料にしたのか」を知りたい場面があります。
このような疑問に答える技術として注目されているのが「CAM（Class Activation Mapping）」です。
CAMは、AIが画像のどの部分を重要視して判断したかを視覚的に示す手法です。
AIの判断根拠を人間が理解しやすくする技術として、説明可能なAI（XAI）の分野でも重要な役割を担っています。
本記事では、CAMの仕組み、用途、代表的な派生手法、活用事例までわかりやすく解説します。
CAM（Class Activation Mapping）とは
CAM（Class Activation Mapping）とは、画像認識モデルが分類時に「どの領域を重視したのか」をヒートマップとして可視化する手法です。
簡単に言えば、AIの注目領域を色で表示する技術です。
例えば画像認識AIが犬を判定した場合、CAMでは犬の顔や胴体部分が赤色や黄色で強調表示されます。
イメージ：
画像 → AI判定「犬」
↓
AIが注目した領域を可視化
↓
犬の顔周辺が赤く表示
これにより、人間はAIの判断根拠を直感的に理解できます。
なぜCAMが必要なのか
AIのブラックボックス問題を解決するため
深層学習モデル、とくにCNN（畳み込みニューラルネットワーク）は高精度ですが、内部処理が非常に複雑です。
そのため以下のような問題がありました。
- なぜその結果になったのか分からない
- AIが本当に対象物を見ているか不明
- 誤判定原因を特定しにくい
これは「ブラックボックス問題」と呼ばれます。
CAMはこの問題を可視化によって解決するアプローチです。
CAMの仕組み
CAMはCNNの後半部分の構造を利用して注目領域を計算します。
通常の画像分類モデルでは最後に全結合層（Fully Connected Layer）が利用されます。
しかしCAMでは、その代わりに「グローバル平均プーリング（Global Average Pooling：GAP）」を利用します。
グローバル平均プーリング（GAP）とは
GAPは特徴マップ全体の平均値を計算する処理です。
通常のCNNでは、多数の特徴マップが生成されます。
例：
- 耳の特徴
- 目の特徴
- 輪郭
- 模様
GAPは各特徴マップの平均値を計算し、それぞれが分類にどれだけ影響したかを求めます。
その後、クラスごとの重みを掛け合わせることで、重要領域を算出します。
結果として、画像内の注目領域をヒートマップ化できます。
CAMで何が分かるのか
CAMを利用すると、AIの判断理由を視覚的に確認できます。
例えば「犬」と判断した場合：
適切なケース：
- 犬の顔
- 胴体
- 耳
問題のあるケース：
- 背景の芝生
- 撮影日時
- 画像のノイズ
もしAIが犬ではなく背景を根拠に判定していた場合、モデル設計や学習データに問題がある可能性があります。
CAMの課題
CAMには便利な点がある一方で制約もあります。
最大の課題は、モデル構造の変更が必要な点です。
CAMを適用するには、
- 全結合層の代わりにGAP層を使用
- 特定のCNN構造に限定
といった条件があります。
既存モデルをそのまま利用できないケースもあります。
Grad-CAMとは
こうした制約を改善したのが「Grad-CAM（Gradient-weighted Class Activation Mapping）」です。
Grad-CAMは、出力結果に対する勾配（Gradient）情報を利用して重要領域を求めます。
特徴として以下があります。
- 既存モデルに適用可能
- モデル構造変更不要
- 多くのCNNで利用可能
- 転移学習モデルでも利用しやすい
現在はCAMよりGrad-CAMの方が広く使われる場面も多くなっています。
CAMの活用事例
医療画像診断
医療AIでは診断理由が非常に重要です。
例えば肺のCT画像診断AIで、AI：「異常の可能性あり」だけでは医師は判断しづらくなります。
CAMを利用すると、
- 腫瘍周辺
- 異常陰影部分
- 炎症箇所
など、AIが注目した位置を可視化できます。
医師による確認や説明支援にも役立ちます。
自動運転
自動運転AIでは周囲状況の認識が重要です。
CAMを使えば、
- 歩行者
- 信号機
- 標識
- 障害物
のどこを重視したか確認できます。
誤認識や事故リスク分析にも利用されています。
AIのバイアス検出
CAMはAIの偏り検証にも利用できます。
例えば人物認識AIが本来見るべき顔ではなく、
- 背景
- 衣服
- 撮影環境
を重視している場合があります。
このような不要な特徴への依存を発見できます。
アルゴリズムバイアス対策としても重要です。
説明可能なAI（XAI）との関係
CAMは「説明可能なAI（XAI）」の代表技術のひとつです。
XAIは、人間がAIの判断を理解できるようにする考え方です。
CAMの特徴は、数値ではなく視覚的に説明できる点にあります。
専門知識が少ない利用者でも直感的に理解しやすいため、実務でも導入しやすい手法として注目されています。
まとめ
CAM（Class Activation Mapping）は、AIが画像のどこを見て判断したかを可視化する技術です。
画像認識AIのブラックボックス問題を改善し、判断根拠を人間が理解しやすくする役割を担っています。
ポイントを整理すると次の通りです。
- CAMはAIの注目領域を可視化する技術
- ヒートマップで判断根拠を表示する
- ブラックボックス問題の解決に役立つ
- 医療や自動運転など高信頼分野で重要
- Grad-CAMが現在広く利用されている
今後AIが社会インフラや重要業務へ深く入り込むほど、「高精度」だけでなく「なぜそう判断したのか」を理解できる技術の重要性はさらに高まっていくでしょう。
こちらもご覧ください：説明可能なAI（XAI）とは？ブラックボックス問題を解決する仕組みと重要性をわかりやすく解説
