ISD　ドイツ極右のAI利用についてのレポート公開

ISDは、ドイツ極右アカウントのAI利用状況の調査結果を2025年2月18日に公開した。2023年4月から2024年11月の間にフェイスブック、Instagram、X、TikTok、YouTubeで92の極右アカウントがアカウント公開したAIGC（AI生成コンテンツ）を含む合計883件の投稿を収集し、定性、定量分析した結果になっている。調査対象となった極右アカウントは、AfD、Junge Freiheit（週刊誌）、Compact Magazin（極右過激派）、Deutschland Kurier（親AfDの新聞）およびその他のグループと個人。DALL‑E、 Midjourney、 Stable DiffusionなどのAIモデルが生成する画像は差別や偏見を助長する傾向が明らかになっているため、極右は効率的に意図に合うAIGCを作ることができる。

その結果、下記のことが明らかになった。

・AIGC利用はAfDがもっとも多かった。ただし、TikTokではAfDメインアカウントは禁止されており、YouTubeのの投稿はわずかだった。

・フェイスブックやYouTubeの極右コミュニティの音楽チャンネルもAIGCを多く利用していた。TikTokにはAfD支持者の極右の楽曲の投稿が多かった。

・個人はAfDや極右コミュニティのコンテンツを利用、拡散していた。

・AIGCの画像やミーム、楽曲は極右の中でアイデンティティ感覚を共有するために利用されている。

・AIGCは説明画像や実在しない事件（移民の犯罪行為）などに用いられることもあった。

・EUのDSAはプラットフォームにAIGCにラベル付けすることを義務づけているが、調査対象の中でラベル付けされていたのはわずか4％に留まった。DSAが機能していない実態がわかった。

・ISDは14の主要なナラティブ（その他を加えると15）を特定した。多くは難民、移民、LGBTQ+、環境活動家、敵対政党への攻撃、ドイツの美化などだった。

中でもDSAがほとんど機能していないことは問題であり、ISDはプラットフォームのDSA準拠や規制当局などへの推奨事項をまとめている。