とろっこもんだい
トロッコ問題
ブレーキの故障したトロッコの進路にいる人を救うため、別の線路へ切り替えるべきか問う思考実験です。AIが事故を回避する際、何を優先すべきかという倫理判断の議論で頻繁に引用されます。
詳しい説明
1. 定義と概要
トロッコ問題とは、ブレーキの故障したトロッコが暴走している状況で、そのまま直進すれば5人が亡くなり、別の線路へ切り替えれば1人が亡くなるという究極の選択を迫る有名な思考実験です。功利主義的な「最大多数の最大幸福」を追求するか、義務論的な「人を殺してはならない」を優先するかという、倫理的なジレンマを議論するために用いられます。
2. 現代における適用
現代では、この問題は自動運転車のAIが事故を回避する際の判断基準として議論されています。事故が不可避な状況で、搭乗者を守るべきか、歩行者を守るべきか、あるいは人数を優先すべきかという判断をAIにどう実装するか、という倫理設計の課題に直結します。技術の進歩に伴い、抽象的な思考実験から現実的な工学設計の課題へと変化しています。
3. 試験ごとの視点
ITパスポート試験や基本情報技術者試験では、技術倫理の文脈で登場します。特にAIや自律型システムが普及する中で、開発者がどのような倫理指針を持つべきか、という視点が問われます。システムの「正解」はアルゴリズムだけで決まるものではなく、社会的・法的な合意形成が必要であるという理解が求められます。
試験で問われること
ITパスポート試験
- AI活用の倫理的な課題として取り上げられます。
- 単純な正解が存在しないジレンマであることを押さえます。
- 社会的合意が必要な領域であることを理解します。
基本情報技術者試験
- 技術者倫理の観点から自律システムの判断基準が問われます。
- 設計者が考慮すべきリスクと倫理的な責任を理解します。
- 功利主義と義務論の対立構造の基礎を理解します。