ディープフェイク

ディープフェイクとは

総務省の令和6年版情報通信白書は、ディープフェイクを、ディープラーニング(深層学習)のディープと、フェイク(偽造)を組み合わせた概念として説明しています。そのうえで、本当であるかのように見えて表現し、人々を欺く情報だと述べています。

この説明から、次の2点が読み取れます。

• 語の成り立ち: 深層学習という技術の名前と、偽造という意味の語を合わせた言葉である
• 性質: 本物のように見えるように作られ、見る人や聞く人を欺く情報である

つまりディープフェイクは、深層学習の技術を使って作られた、本物らしく見える偽物を指す語です。

悪用の事例

令和6年版情報通信白書は、ディープフェイクに関わる事例として次の2つに触れています。

1. 2024年1月のインドネシア大統領選挙では、特定の候補を支持するかのような合成動画がSNSで拡散し、国内の政治に影響を与えた
2. AI音声技術を使って簡単に作れる詐欺的な音声通話がSNS上で拡散し、被害が出ている

1つ目は映像、2つ目は音声の事例です。映像と音声のどちらもディープフェイクの対象になりうることが、この2つの事例から分かります。ここでは白書に書かれている範囲だけを紹介しており、個々の出来事をこれ以上評価することはしません。

学術的な位置づけ

ディープフェイクの作成と検出を扱ったサーベイ論文に、Mirsky and Lee の The Creation and Detection of Deepfakes: A Survey(2021年、ACM Computing Surveys、arXiv:2004.11138)があります。その Abstract の冒頭は次のとおりです。

> Generative deep learning algorithms have progressed to a point where it is difficult to tell the difference between what is real and what is fake. In 2018, it was discovered how easy it is to use this technology for unethical and malicious applications, such as the spread of misinformation, impersonation of political leaders, and the defamation of innocent individuals.

参考訳(執筆者による訳)は次のとおりです。

> 生成的深層学習アルゴリズムは、本物と偽物の違いを見分けることが困難な水準まで進歩した。2018年、この技術が誤情報の拡散、政治指導者の模倣、無実の個人への誹謗中傷といった非倫理的・悪意ある用途にいかに容易に使えるかが明らかになった。

この Abstract は、次の2点を述べています。

• 生成的な深層学習アルゴリズムが進歩し、本物と偽物の区別が難しい水準に達した
• 2018年に、この技術を非倫理的・悪意ある用途に使うことがいかに容易かが明らかになった。用途の例として、誤情報の拡散、政治指導者へのなりすまし、無実の個人への誹謗中傷が挙げられている

偽の媒体か偽の中身かという違い(フェイクニュースとの対比)

ディープフェイクと並べて取り上げられる語に、フェイクニュースがあります。フェイクニュースは、文章や画像などで伝えられる中身そのものが虚偽である情報を指します。

2つの語の違いは、何が偽物なのかにあります。

ディープフェイクは、AI技術によって合成された偽の音声や映像といった媒体そのものを指します。フェイクニュースは、中身が虚偽である情報を指します。このように、偽の媒体か偽の中身かという点で2つの語は異なります。

ただし、2つは別々に現れるとは限りません。たとえば、虚偽の内容を本物らしく伝えるために、合成した映像や音声を使うことがあります。この場合は、偽の中身が偽の媒体によって伝えられ、両者が組み合わさっています。白書が挙げた、特定の候補を支持するかのような合成動画の事例も、合成された媒体によって事実と異なる印象を与えうる例として読むことができます。

AIとの関わり

ディープフェイクという語には、深層学習という技術の名前が含まれています。Mirsky and Lee の Abstract が述べるように、生成的な深層学習の進歩によって本物と偽物の区別が難しくなりました。また白書は、AI音声技術を使えば詐欺的な音声を簡単に作れることに触れています。

これらの資料を合わせると、生成AIの技術が進歩したことで、ディープフェイクを作りやすくなっていると考えられます。生成AIの便利さと悪用されるおそれは同じ技術から生じるため、安全性やセキュリティの観点から扱われるテーマになっています。