データの来歴

NIST AI RMFにおける位置づけ

NIST AI RMF 1.0(2023年1月)は、3.4 アカウンタビリティと透明性の項でトレーニングデータの出所に触れています。公式日本語訳には、トレーニングデータの出所を維持し、AIシステムの判断がトレーニングデータのサブセットに帰属することを裏付けることで、透明性とアカウンタビリティの両方を支援することができる、という趣旨の記述があります。

つまりこの記述は、学習に使ったデータの出所を保っておけば、AIシステムの判断がどのデータに基づいているかを裏付けられる、という考え方を示しています。その裏付けが、外から見て分かる状態にすること(透明性)と、説明の責任を果たすこと(アカウンタビリティ)の両方を支えうる、とされています。

同じ箇所には、トレーニングデータが著作権の対象となる可能性があり、適用される知的財産権法に従う必要がある、とも書かれています。データの出所を把握しておくことは、権利の面からも意味を持ちうる、と読める記述です。

AI事業者ガイドラインにおける位置づけ(コンテンツの来歴)

AI事業者ガイドライン(第1.1版、令和7年3月28日、総務省・経済産業省)の本編は、実践的な機能水準の例のVII)で来歴に触れています。技術的に可能な場合は、電子透かしやその他の技術等によって、AI利用者及び業務外利用者がAIが生成したコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導入する、という内容です。

この記述には、ガイドラインの指針の1つである6)透明性が対応先として付いています。つまりこの実践の例は、透明性を具体的な取り組みにしたものの1つとして置かれています。同じ箇所には、適切かつ技術的に実現可能な場合、組織の高度なAIシステムで作成されたコンテンツ認証及び来歴メカニズムが含まれる、という記述もあります。

2つの資料では、来歴を考える対象が違います。NIST AI RMFの3.4は、AIシステムが学ぶときのトレーニングデータ、つまり入力側の出所を扱っています。これに対しAI事業者ガイドラインのこの記述は、AIが生成したコンテンツ、つまり出力側の来歴を扱っています。

来歴が支えるもの

2つの資料をあわせて読むと、データの来歴を記録・維持することは、次の2つの面に関わっていると整理できます。

• 学習データの出所の裏付け。AIシステムの判断がどのデータに基づいているかを裏付けられるようにする面です(NIST AI RMF 3.4)
• 生成物の認証。AIが生成したコンテンツであることを識別できるようにする面です(AI事業者ガイドライン VII))

どちらの資料も、これらを透明性と結び付けています。NIST AI RMFは、学習データの出所の維持がアカウンタビリティの支えにもなりうると述べています。

AIとの関わり

AIシステムは大量のデータから学び、文章や画像などを生成します。学習に使うデータと生成する出力の両方について、出所をたどれる状態にしておくことは、AIのガバナンスを支える要素の1つになりうると考えられます。ただし、どこまで記録するか、どの技術を使うかは、上の2つの資料でも、技術的に可能な場合や適切な場合といった条件付きで述べられています。