こうへいせいのていぎ

公平性の定義

AIの判断において、特定の属性に対する偏りを防ぐための数学的な基準です。人口統計的パリティや機会の平等などがあり、トレードオフの関係を考慮しつつ社会的な合意形成が求められます。

詳しい説明

AIシステムが特定の属性に対して不当な偏りを持たず、公平に判断を下すための数学的な基準です。AIの学習データに含まれるバイアスが結果に反映されることを防ぎ、誰もが不利益を被らない仕組みを作るために定義されます。

代表的な定義として、全グループでポジティブと判定される比率を同じにする「人口統計的パリティ」や、グループ間でエラー率を揃える「機会の平等」などがあります。どの定義を採用するかは、システムが使われる文脈によって変わります。

G検定では、公平性の定義はトレードオフの関係にあることが問われます。すべての基準を同時に満たすことは難しいため、どの公平性を優先すべきかを社会的な合意形成の中で決める必要がある、という点が理解のポイントです。