フランスの極右政党が選挙戦でAIを活用

EU選挙、および議会下院選の第1回投票が行われたばかりのフランスでは、複数の極右政党が市民の分断を煽るような画像や映像（移民問題、治安、イスラム教徒、表現の自由、現職の政治家などに関連したコンテンツ）をAIで生成し、ソーシャルメディアで広めていた。

非営利団体AI Forensicsは、5月1日から6月28日までの期間を対象に、生成AI（ジェネレーティブAI）で作られたコンテンツがフランスの政党によるSNSのページに存在しているかを調査した。その結果、AI生成のコンテンツが最も多かったのは極右政党の国民連合（RN）、ナショナリズム政党の再征服（Reconquest）、EU離脱派の愛国者（Les Patriotes）で、少なくとも計51点がFacebook、Instagram、X（旧Twitter）に公開されていた。

AI Forensicsの研究者は「控えめな見積りだ」とEuronews Next誌に語っている。「これは生成型のAIが話題となった最初の選挙だが、今後ますます利用されるようになるのは間違いない」。

OpenAIがChatGPTをリリースして以来、AIが選挙結果を改ざんする可能性が懸念されてきたものの、現在のところ「AIがいずれかの国の選挙結果を不正に改ざんした」という証拠は見られていない。その一方、AIで生成された政治的メッセージを含む偽画像や偽動画は、一般ユーザーが見たときに「AI作成だ」とは気づかれないほどリアルなものもある。このAI戦術が今回の選挙にどれほどの影響を与えたのかを評価するのは難しいが、現実の画像や映像だと誤解したまま投票する有権者は確実にいただろう。

「フランスに上陸する移民の画像」「イスラム教徒の悪事を描いた画像」などがAIで作られ、SNSで閲覧されている現在、人々の認識が歪められている可能性は大きい。AI Forensicsの研究者 Salvatore Romano氏は「（これはAIによって生成された画像であると）画像にラベルを付けて表示すれば、有権者はより理解を深めることができるはずだ」とPOLITICO誌に語った。

実際のところ大手ソーシャルメディアは、このようなコンテンツに「AI生成」の表示をすると約束している。にも関わらず、MetaとXの両社は、今回のフランス議会選挙、および先月の欧州議会選挙のために生成された投稿のいずれにもフラグを立てることができていなかった。これに対しMetaは、プラットフォームへ投稿されるAI生成のコンテンツをすべて特定することは現時点で不可能だ、とPOLITICOに語った。Xはコメントの要請に応答しなかった。

欧州議会選挙の活動におけるフェイクのAIコンテンツについては、大手テクノロジー企業も懸念を示しており、その管理などについても議論が進められてきた。しかし彼らがどのように対応し、どの程度成功しているのかという点については、さらなる透明性が求められている。

なお国民連合は先日の議会下院国民議会選挙において、史上初めて第一党に躍り出た。そして国民連合を含むフランスの極右政党はいずれも、AI生成の画像や動画を使用したことを公に認めている。