説明可能性

説明可能性は、AIモデルが下した判断や予測の結果が、なぜそのようになったのかを人間が論理的に説明できる性質のことです。モデルの透明性とも深く関連しており、AIが信頼に足るか否かを判断する重要な基準となります。AIの普及に伴い、その決定が適切であるかを確認する責任が重要視されています。

技術的なトレードオフとして、高い精度を持つモデルほど構造が複雑で説明可能性が低くなる傾向があります。例えば、線形回帰や決定木はモデルが単純なため説明可能性が高いですが、巨大なニューラルネットワークは非常に高く予測できる一方で、内部の仕組みが複雑すぎて説明が困難です。このバランスをどう取るかが開発現場での大きな課題です。

G検定では、AI倫理の枠組みで問われます。特に説明責任（アカウンタビリティ）の観点から、どのような意思決定をAIに任せてよいか、また任せた結果に対して誰が責任を負うのかという議論と結びつきます。技術を導入する側が、精度と説明可能性を天秤にかけて判断できることが求められます。