CAM

CAMとは、畳み込みニューラルネットワークが画像のどの部分を見て分類判断を下したかを可視化する手法のことです。ディープラーニングはブラックボックスになりがちですが、CAMを用いることで、モデルが注目した領域をヒートマップとして確認できます。

仕組みとしては、最終的な分類層の直前にあるGlobal Average Pooling層の重みを、畳み込み層の出力と掛け合わせることで実現します。これにより、特定のクラスと関連性の高い画像領域が強調され、視覚的に理解可能な形で出力されます。モデルが意図通りに学習できているかを検証する際や、判断根拠を説明する際に強力なツールとなります。

G検定では、モデルの解釈可能性（XAI）を高める手法として出題されます。CAM自体はGlobal Average Pooling層が必須という制約がありますが、この制限を緩和した手法であるGrad-CAMなども関連知識として問われることがあります。モデルが「何を見て判断しているか」を可視化するという目的を理解することが重要です。