トレーサビリティ

定義(AI事業者ガイドライン)

AI事業者ガイドライン(第1.1版、令和7年3月28日、総務省・経済産業省)は、本編の共通の指針の7番目にアカウンタビリティを挙げ、その取組の1つとして、トレーサビリティの向上を掲げています。

ガイドラインはこの取組の内容を、データの出所、AIシステム・サービスの開発・提供・利用中に行われた意思決定等について、技術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保する、と書いています。

この一文から、次の3点が読み取れます。

• **追跡の対象**は、データの出所と、開発・提供・利用の各段階で行われた意思決定等です。AIの出力結果だけに限られていません。
• **求められる状態**は、あとから追跡し、さかのぼって確かめられること(追跡・遡求が可能な状態)です。
• **範囲の限定**として、技術的に可能かつ合理的な範囲で、という条件が付いています。あらゆる情報を無制限に記録することまでは書かれていません。

つまりトレーサビリティは、ガイドラインの中では単独の原則ではなく、アカウンタビリティという共通の指針を支える取組の1つとして置かれている、という位置づけを押さえておくことが大切です。

制度の要点

アカウンタビリティは、責任を負うことと、その前提となる条件を整えることを含む考え方です。トレーサビリティがなぜこれにつながるのかは、一般に次のように理解されています。

AIシステムやサービスで問題が起きたとき、関係者はまず、何が原因だったのかを確かめる必要があります。たとえば、学習に使ったデータがどこから来たものか、開発のどの段階でどのような判断がされたか、利用の場面でどのような設定や判断があったか、といった点です。

これらを追跡・遡求できる状態になっていれば、次のことがしやすくなると考えられています。

• **原因の究明**: どのデータや判断が結果に影響したのかを、あとから確かめられる
• **説明**: 利用者や影響を受けた人に対して、何が起きたのかを根拠を示して説明できる
• **責任の所在の確認**: どの段階の、どの主体の判断が関わったのかを整理できる

反対に、記録が残っておらず、さかのぼって確かめられない状態では、原因も説明も推測に頼ることになります。このため、トレーサビリティの確保は、責任を果たすための前提条件を整える取組の1つとして理解されています。

なお、ガイドラインの一文は、何を記録すべきかの具体的な項目や方法までは定めていません。技術的に可能かつ合理的な範囲で、という条件の中で、各事業者が状況に応じて判断することが前提になっていると読めます。

AIとの関わり

AIシステムは、学習データの内容や、開発・提供・利用の各段階の判断によって、結果が大きく変わることがあります。このため、データの出所や意思決定等をたどれる状態にしておくことが、アカウンタビリティの取組として挙げられていると考えられます。

海外の議論に関係して、ガイドラインの脚注には、European Commission が2019年4月にまとめた信頼できるAIのための倫理ガイドライン(ETHICS GUIDELINES FOR TRUSTWORTHY AI)が、トレーサビリティ、説明可能性及びコミュニケーションに触れている、という言及があります。ここではその文書の中身には立ち入りませんが、トレーサビリティが国内のガイドラインだけでなく、海外の文書でも取り上げられている語であることは押さえておくとよいでしょう。

G検定のシラバス2024でも、トレーサビリティは対象のキーワードとして掲載されています。