ブラックボックス

ブラックボックスとは、中身の構造や処理プロセスが見えず、入力と出力だけが確認できる状態を指します。AIや機械学習のモデルにおいて、なぜその判断が下されたのか、どのようなロジックに基づいているのかが人間には理解できない状態をブラックボックス性と呼びます。

ディープラーニングのような複雑なモデルは、膨大なパラメータによって推論が行われるため、判断根拠を追跡することが困難です。これはAIの信頼性や公平性の観点から大きな課題とされており、透明性を確保するために説明可能なAI（XAI）の開発が進められています。

G検定では、AIモデルが持つリスクの一つとして、このブラックボックス性が取り上げられます。モデルの予測精度を追うだけでなく、特に医療や金融など責任が伴う分野では、判断の根拠を説明する義務があるという文脈で重要視される概念です。