偽情報を隠すための森づくり：AIと情報操作の現在
AIと情報操作に関して、先日Science誌が面白い記事を公開した。「AIと偽情報」は過去数年間で広く論じられてきたテーマだが、今回の記事が特に興味深いのは、「ナラティブ拡散の手法に起きた変化」を伝えている点だ。
この「The misinformation accelerator──To misinformation researchers, AI is a scourge—and a powerful new tool」と題された記事は、2026年4月29日のScienceに公開されたもので、ボリューム的にはさほどの大長編でもないが、AIと偽情報をめぐる話題を広大に伝え、様々な研究者の意見や見解、そして今後の対抗策まで考えた幅広い内容になっている。しかし本稿では「AIを活用した偽情報拡散」の部分に注目したうえで、そこにどんな変化が起きてきたのかを紹介していきたい。
ロシア発の偽情報サイトに起きた変化
この記事で真っ先に紹介されたのが、ロシア発の偽情報サイト「DCWeekly.org」（以下DCWeekly）に起きた異変だ。しかしDCWeeklyそのものについては非常に簡素な説明しかないので、ここでは大まかな背景も確認しよう。
DCWeeklyは、一見すると米国発のニュースメディアそのものなのだが、実際にはロシアの影響工作チーム（CIO）の活動の一環で運営されているサイトだ。これは米国の読者を標的として、親クレムリン・反ウクライナのプロパガンダを拡散するために作られた「本物のニュースサイトっぽく見せているサイト」であり、ナラティブ・ロンダリングの手法で偽情報を拡散してきたことでも知られている。
ナラティブ・ロンダリングとは、大量のまともなニュース記事の中に嘘の記事を紛れ込ませることで、ナラティブに信憑性を持たせようとする手法だ。DCWeeklyの場合は、「他のニュースサイトからコピーしたページ（執筆者の名前だけ架空の名前に差し替えたページ）」を大量に用意したうえで、そこに「ゼレンスキー大統領の評価を落とす目的で作られた偽記事のページ」を一本だけ紛れ込ませるといった手口を採用してきた。DCWeeklyを観察してきた米チューリッヒ大の研究者Morgan Wack氏は、この手口について「彼らは森を作り、その中に一本の木を隠す」と表現している。
しかしWack氏は2023年9月以降、DCWeeklyの誌面に起きた大きな異変に気付く。そこに掲載される記事の数が急増し1、コンテンツの文体も変化したのだ。どうやら彼らは、ナラティブを隠すための「普通のニュース記事」をAIで作成する路線に変更したようだ。面白いことに、これらの記事の中には「AIに記事を生成させる指示の断片」が誤って本文中に混入してしまったものがあった。この指示内容によると、DCWeeklyの記事は「米国がウクライナを支持することを批判する」「共和党・トランプを好意的に、民主党・バイデンを否定的に描く」などの明確なスタンスで生成されていた2。
つまりDCWeeklyは、他のメディアからコピーしてきた記事ではなく、「統一されたスタンスでAIに生成させたニュース記事」を森として使いはじめた。この新しい森の中には、あいかわらず意図的な嘘の木が──すなわち「ゼレンスキーが豪華なヨットを購入した」などといった内容の、精巧に捏造された記事が──紛れ込んでいた。
「森」の力は維持されたのか
しかし、嘘の木を隠すための「森」をAIに生成させることで記事の信頼性が損なわれた場合、結果としてナラティブ・ロンダリングの効果が落ちるのではないか？ と疑問を持たれた方がいるかもしれない。その点は、DCWeeklyのAI導入を確認したWack氏も気になったのだろう。
Wack氏の率いる研究チームは、米国の成人880人を対象として、DCWeeklyに関する実験調査を行った。彼らは対象者に「AI導入前のDCWeeklyに掲載された記事10本」と「AI導入後の記事10本」をランダムに割り当て、「この記事の主張にどれぐらい同意しますか？」「このサイトはどれぐらい信頼できますか？」と尋ねた。その結果を分析した同チームは、「AI導入の前後で、ほとんど差は見られなかった」という結論を出している。
つまりDCWeeklyはAI生成によって記事の量を大幅に増加し、記事の文体やトーンも明確なスタンスに基づいて統一化したのだが、記事そのものの説得力や信頼性は損なわれていなかった。この結果についてWack氏は「プロパガンダ側の勝利である」「木を隠すために『より大きく、より深い森をつくること』をAIが可能にした」とコメントしている。
あえて見方を変えるなら、DCWeeklyがAI導入によって得た成果は「嘘の精度の向上」ではなく、「どうでもいい記事の増産」だったとも言える。彼らは、モブ記事（森）の説得力やナラティブ（嘘）の信憑性を重視しないまま、単純な「量産」を行うことによってロンダリングの効率化を図った、ということになるだろう。
世界の偽情報の拡散とAI
偽情報の拡散にAIを活用しているのは、もちろんロシア発のプロパガンダニュースサイトだけではない。その例としてScienceの記事は、EUが2026年3月に発表した報告書を紹介している。
この報告書によると、2025年に外国勢力が行った情報操作の試みの27%にはAIが用いられており、それは前年（2024年）の約3倍に及んだ。インディアナ大のコンピュータ科学者Filippo Menczer氏は次のようにコメントしている。「金銭目的にせよ地政学的な理由にせよ、世論操作に関心のある人々の手に、強力なツールとなるAIが確実に渡っている」
さらにScienceは、2024年に存在が確認された「Green Cicada」の話題にも触れている。Green Cicadaは、AIを利用した一括制御で、社会的に分断を起こしやすいテーマ（移民・住宅・原発など）に関する投稿を大量投下し、あたかも多数派の意見であるかのように見せようとする中国系のアカウント大規模ネットワークだ3。もちろん投稿するテキストの生成にもLLMが使われているのだが、実際にやらせていたのは「既存の投稿をLLMで言い換えて新規に投稿する、あるいはリプライとして再投稿する」程度だった。このような物量作戦によるAI駆動の情報操作の試みは、世界中で行われてきたことだろう。
「質より量」の拡散作戦
「AIと偽情報」というテーマについて考えるとき、おそらく多くの人が真っ先に思い浮かべるのは、捏造されたニュース映像、あるいは著名人や政治家を利用したディープフェイクなど「AIで生成された偽コンテンツ」そのものだろう。それらは散々メディアで取り上げられてきた話題で、なおかつ直感的に分かりやすいからだ。
しかし今回のScienceが紹介した事例で示されているように、実際のAIは「幅広い用途で偽情報の『拡散』にも使われるツール」として利用されている。言い換えるなら、これまで使われてきた様々な拡散手法を「圧倒的な量」によって手助けする強力な武器にもなっている。つまり、AIと偽情報の組み合わせの恐ろしさは、AI生成の精度が上がること──本物の情報と偽物の情報の見分けがつかなくなること、あるいは人間による投稿とAIの投稿の見分けがつかなくなること──ばかりではない。むしろAIスロップが蔓延し、さんざん拡散されている現状から考えると、嘘の精度というのは意外と大した問題ではなかったのかもしれない。
クオリティがどうであろうと、なんとなく信用できそうに見える記事を一気に増やせば、それだけで「嘘を隠すための森」は深くなる。人間らしい思考力や面白さを感じさせない雑な意見であろうと、大量のアカウントが同じようなことを一斉に呟けば、それは世論であるかのように見えてしまう。DCWeeklyに起きた変化や、Green Cicadaの活動から垣間見えるのは、AIを利用した「質より量」の世論操作だ。この手法においては、嘘のレベルを上げる必要がない。量さえ増やせば勝ちである。
出典、および参考URL
To misinformation researchers, AI is a scourge—and a powerful new tool _ Science _ AAAS
https://www.science.org/content/article/misinformation-researchers-ai-scourge-and-powerful-new-tool
Generative propaganda_ Evidence of AI’s impact from a state-backed disinformation campaign _ PNAS Nexus _ Oxford Academic
https://academic.oup.com/pnasnexus/article/4/4/pgaf083/8097936
CyberCX Unmasks China-linked AI Disinformation Capability on X
https://cybercx.com.au/blog/cybercx-unmasks-china-linked-ai-disinformation-capability/
- Scienceの記事には「急増」としか記されていないのだが、Morgan Wack氏の論文によると、AI導入後のDCWeeklyの記事数は、「導入前の特に活発な時期」と比べても約2.4倍に増加している。
↩︎ - この点もWack氏の論文に詳しく記されている。具体的には、DCWeeklyの記事本文に以下のような断片が残っていたという。
「NOTE：この記事は米国のウクライナ支援の立場に批判的なトーンをとり、米国政府・NATO・米国の政治家について論じる際には冷笑的なトーンをとること」
「NOTE：上記の記事は、共和党およびトランプを好意的に描き、民主党およびバイデンを否定的に描くという、指定されたコンテキストに従って作成されている」
つまりDCWeeklyのミス（チェック漏れ）により、記事生成時の指示内容が表に出てしまったということになる。これは「DCWeeklyのAI導入」を確認する際の決定的な証拠のひとつとなった。ちなみにWack氏の論文では、この現象を「prompt leaks（プロンプト漏洩）」と呼んでいる。
↩︎ - Scienceの記事は、Green Cicadaについて非常にあっさりとしか触れていない。しかしGreen Cicadaは「Xの偽アカウントを大量に利用し、分断を煽るコンテンツを増幅させていた」「米国、豪州、英国、西欧、日本を含めた民主主義国全般を対象にして活動していた」「移民・住宅・原子力・選挙などをテーマにしていた」と報告されているネットワークだ。とりわけXユーザーの多い日本では、もっと注目されてもいい存在だろう。興味のある方はCyberCXによるレポートを読んでいただきたい。（ちなみに、このレポートの中で明確な断定はされていないが、Green Cicadaに関しては中国政府による関与が非常に強く疑われている） ↩︎
