ヘイトスピーチ

ヘイトスピーチとは、人種、信条、性別、社会的身分、障害などの特定の属性に基づき、個人や集団を攻撃、侮辱、脅迫する言動のことです。差別を助長し、社会的な対立を深める有害な表現として、インターネット上や対面での発言が社会問題となっています。法的な規制の有無や議論は国によって異なりますが、社会倫理として排除されるべき表現とされます。

ITの文脈では、AIモデルがヘイトスピーチを学習してしまうリスクが大きな課題です。AIは膨大なインターネット上のデータを学習するため、そこにヘイトスピーチが含まれていると、AI自体が差別的な回答を出力したり、偏見を持った判断を下したりする可能性があります。そのため、AI開発企業は学習データからヘイトスピーチを排除し、安全な対話ができるようガードレールを設ける対策を講じています。

試験では、情報モラルやAI倫理の観点から問われます。SNSなどのプラットフォーム運営者には、ヘイトスピーチを見つけ出し、削除や利用制限を行うなどの適切な管理が求められます。技術者や利用者は、AIやネットサービスが差別を助長しないよう、適切な利用とシステムの監視を行う責任があります。社会課題と技術対応の両面から理解することが大切です。