公人標的のディープフェイクは1年間で38カ国82件　Inskit Groupが発表

ディープフェイクが政治や選挙にとっての大きな脅威と見なされる中、Recorded Futureの脅威研究部門Inskit Groupが、ディープフェイクに関する最新の調査結果を掲載した。彼らの調査では2023年7月から2024年7月までの間、公人を標的としたディープフェイクが38カ国で82件確認された。今回のレポートには、それらの活動の標的や目的、新たな戦術などが示されている。

ディープフェイクの傾向

1年間の調査中に38か国で82件のディープフェイクが特定されたが、そのうち「調査期間中に選挙が行われた国」「2024年に選挙が予定されている国」は30カ国だった。つまり人々の注目が選挙に集まることに期待し、政治家や国家元首、候補者、ジャーナリストなどを利用するディープフェイクが大量に生成されたことがうかがえる。

ディープフェイクの主な目的

レポートに示された主な目的は以下の5つ。

・詐欺（26.8%）
選挙への注目を利用した金融詐欺は頻繁に行われている。今回はカナダのジャスティン・トルドー首相やメキシコのクラウディア・シェインバウム次期大統領などのディープフェイクが確認された。

・虚偽の主張（25.6%）
有権者に誤解をさせるために公人の発言を捏造するケースも多い。たとえば英国のキア・スターマー首相が自党を批判する偽音声や、台湾の柯文哲が虚偽の告発を行う偽音声が出回った。

・選挙活動（15.8%）
「選挙活動を目的とした、政党によるディープフェイクの使用」も増加している。トルコのエルドアン大統領は、野党の指導者をテロリスト集団と結びつけるためにディープフェイクを利用した。

・人格攻撃（10.9%）
特定の個人を攻撃し、国民の信頼を失わせる活動。フィリピンのフェルディナンド・マルコス・ジュニア大統領が、非倫理的な行動に関わっているかのように描写されたディープフェイクなど。

・合意なきポルノ（10.9%）:
政治の世界の女性たちが、ディープフェイクでポルノを捏造され、政治参加を妨げられた。

ディープフェイクの新たな戦術

Inskit Groupは、ディープフェイクの活用が巧妙化していることを示す新たな戦術を以下のように報告している。

・偽の内部告発者
スキャンダルをでっち上げて世論を操作するために、AIで「虚偽の内部告発者」を生成するもの。

・音声のディープフェイク
AI生成の偽音声で、公人による虚偽の声明を捏造する傾向も高まっている。たとえばバイデン大統領が有権者に対し、予備選挙に投票しないよう呼びかけるなどの内容。

・既存メディアへの成りすまし
ディープフェイクのコンテンツに信憑性を与えるため、France24やBBCといった正統派のニュースブランドのロゴなどを利用するケースが増えている。

・海外の指導者
中国の習近平や米国のドナルド・トランプを扱ったディープフェイクの動画は、それぞれ台湾と南アフリカの国内選挙に影響を与える目的で再利用された。

・家族のなりすまし
ディープフェイクは政治家本人だけではなく、その家族まで標的にすることで、別の層での偽情報拡散や情報操作を試みている。

選挙への影響

これらが選挙にもたらす影響は甚大だ。たとえばスロバキアでは選挙の直前に、不正選挙に関する偽音声の偽情報が拡散された。トルコでは大統領選の候補者が「ディープフェイクのセックステープ」を公開されたのち、大統領選から撤退した。
Inskit Groupは次のように記している。「とりわけ不安定な政治情勢下では、ディープフェイクの偽情報の拡散が、計り知れないほどの影響をもたらす。それは候補者の信用を失墜させ、虚偽の話を広めるリスクがあるため、高度な対策が早急に求められている」

対策に求められること

ディープフェイク対策に求められることとして、Inskit Groupは次のように提案している。

・迅速性と正確性
ディープフェイクが拡散したときは迅速な対応が不可欠となる。公人は、偽りの主張を速やかに論破する真っ当なコンテンツを公開すべき。

・周知キャンペーン
公人の知名度を高めるよう促し、人々が公人の「真の姿」に慣れ親しむようにする。

・著作権の活用
著作権で保護されている素材を利用したディープフェイクは、デジタルミレニアム著作権法の侵害として削除を求めることができる。これはAI生成の偽情報に対抗する法的手段となり得る。

・高度なAI検出ツール
政府やメディアは、深刻な被害が発生する前にディープフェイクを特定して削除するためのAI検出ツールに投資する必要がある。

・ファクトチェック機関との連携
ディープフェイクや虚偽の話の拡散を抑制するには、ソーシャルメディアプラットフォームとファクトチェック機関の連携が不可欠である。

つまり彼らが示している対策の多くは「拡散を防ぐための予防策」ではなく「拡散されたあとの対応策」だ。Inskit GroupがRecorded Future Newsに掲載した今回のレポートは、ディープフェイクによる政治や選挙への悪影響を憂い、その対策の必要性を強調する形で（無難に）まとめられているのだが、その最終パラグラフの最後には、たいへん現実的な意見が記されている。

「特に海外からの干渉や選挙操作においては、進化するテクノロジーに規制が追いついていない。調査によれば、ディープフェイクは一定の品質さえ超えていれば、必ずしも高度な技術を必要としないまま被害を与えることができる。したがって、なりすまされた（ディープフェイクの標的となった）人物の『実際の姿』を視聴者に見せたり、事実確認を迅速に行ったりするなど、対応策や緩和策に重点を置くほうが効果的だ」

※Inskit Groupによる調査結果の全文は、ここからPDF形式で読むことができる。