新潮流になるか？AIにより生成されたペルソナを活用した影響工作

2024年9月10日

URLをコピーしました！

大手メディアが関与する偽情報配信とAIによる情報拡散

生成AIにより生成された架空のオンライン人格（偽ペルソナ）たちが、ソーシャルメディアへ偽情報を次々と投稿し、世界を作り話で染めていく。その黒幕はなんと大手メディアだった。まるでSF小説のようなことが現実となり始めている。

7月9日、米国連邦捜査局（FBI）およびサイバー国家ミッションフォース（CNMF）は、オランダ、カナダと連携し、ロシアの国家支援メディアであるRT（旧ロシア・トゥデイ）とその関連会社が、AI搭載のボットファーム生成を行うソフトウェア「Meliorator」を影響工作に活用しているとの勧告を発表した¹。このMelioratorは、偽情報を拡散することを目的として開発され、管理パネル「Brigadir」を通じて、オンライン人格たちの行動を自動化している。オンライン人格の作成、自動化されたインタラクション、コンテンツの増幅などの機能を持つ同ソフトウェアの投稿は、一見、実在する人物が投稿したように見える。図1はMeloratorの生成したオンライン人格の一例だ。オンライン人格の思想モデルは、何パターンか用意されているようで、自己紹介文も様々だった。

今回の勧告は、上述した通り、Melioratorにより複数国籍の架空のオンライン人格を作成し、X（旧Twitter）上で偽情報を増幅していたことに対するものである。その標的国は、米国、ポーランド、ドイツ、オランダ、スペイン、ウクライナ、イスラエルなどだ。日本語の投稿は確認されていないため、日本への影響は単純に測れるものではない。しかし、他国が、ロシアによるこれらの手法を模倣する可能性は、国際情勢動向や模倣に必要な技術的障壁の観点から比較的高いとみられる。そのため、私見ではあるが、本勧告を国家の情報安全保障上の課題として捉えるべきものだと考えている。

ロシア国営空母メディアが仕掛ける親ロシア・ストーリーの拡散

RTは、中国が「空母メディア」と揶揄するロシアの国際ニュースチャンネルだ。世界100カ国以上に7億人以上の視聴者がいるとされる同チャンネルは、2005年12月の開局以来、メディア融合の手段を駆使してロシアの対外宣伝を行ってきた²。2019年には、ロシアがRTを介して偽情報を配信していることが報じられ、ロシアの影響工作を支援していることが明らかとなっている³。

ロシアにとってMelioratorの利用メリットの１つは、架空のオンライン人格（ペルソナ）の生成により、西側諸国の追跡を回避できる点だろう。X上で、オンライン人格がリポストした内容には、RTのコンテンツも含まれていたと推察されるわけだが、現在、一部の国家はRTのチャンネルをブロックしている。そのような場合においても、オンライン人格を介してコンテンツを投稿、拡散することで確実にXユーザへアプローチすることができる。その結果、図2のように一部のXユーザがMelioratorのボットに反応し、他のユーザへと影響が広がっていく。

ソーシャルメディア上での影響工作の効果を認識していた中国

RTは早くからXやGoogle+、InstagramなどのSNSにチャンネルを持ち、2007年にはYouTubeに参入している。このRTのソーシャルメディアへの参入に対して、中国の国防科技大学の马建光教授は、中国人民解放軍のニュースポータル「中国军网」への寄稿（2016年12月）で、ロシア国内はもとより、西側諸国においてもネチズンを惹きつけていると指摘している⁴。この指摘は、中国人民解放軍は、少なくとも2016年にはソーシャルメディア上でのRTの活動が、いわゆる「情報兵器⁵」として機能していることを認識していたことを示唆している。

また、ロシアは西側諸国からのメディア戦への対策も迅速だった。ロシアは、すぐにネットメディアの規制を国家レベルにまで引き上げ、情報安全保障の立法を整備している。2022年に、米メタ・プラットフォームズ社のロシア連邦領域におけるFacebookおよびInstagramの製品販売活動に対して、「過激派活動」を理由に禁止したのも安全保障上の理由とみられる⁶。

これまでのロシアと中国の活動や方向性を勘案すると、両国ともソーシャルメディアの影響力については早くから認識し、対応していたことが分かる。

ロシアの影響工作への中国の関心度

中国は、これまでもロシアのプロパガンダの拡散手法を参考に実施しているように見受けられる。実際に中国が、XやFacebook、Instagramなどを影響工作に活用し出したのは、前述の中国军网を含む関連の論文の寄稿後であり、2019年の香港デモに関連する情報戦が契機となったと考えられる。これらのことを勘案すると、中国がMelioratorを模倣した類似システムを利用し、ソーシャルメディア上で影響工作キャンペーンをいつ実施していても不思議ではない。（もっとも、既に始まっている可能性もあるが。）RTがMelioratorを活用したように、外国語チャンネルを有するメディアがAIを活用するケースが模倣されることを想定した場合、中国国営メディアの動向からは目が離せない。

なお、現在、中国による影響工作のAIの活用は、「Spamouflage」や「Dragonbridge」の呼称で知られるグループが、AIで生成したコンテンツを利用し、中国にとって有利なストーリーを投稿していたことが知られている⁷ ^,8。加えて、台湾の総統選挙でもAIを利用した偽情報や偽動画が多く確認されたことも記憶に新しい⁹。ただし、これらはいずれも大手メディアが直接関わったものではない。

中国製AIが影響工作に利用される可能性

中国発の影響工作への利用が懸念されているシステムの１つは、北京智源人工知能研究院（BAAI）の開発した、「悟道 2.0（認識への道）」である¹⁰。同システムは、マルチモーダルAIモデルを採用しており、テキスト生成、画像生成、自然言語処理といった複数の種類のデータ種別を一度に処理できる。さらに、大規模なデータセットにより学習が行われており、4.9テラバイトの画像とテキストデータによりトレーニングした結果、1.75兆のパラメータを持っている。

言うまでもなく、この言語モデルに対し、欧州や米国の有識者たちは、強力な偽情報やプロパガンダ・マシンとして使われる可能性に対して警鐘を鳴らしている¹¹。現時点では、悟道が実際にプロパガンダや偽情報の配信に悪用されたとの報告は無い。

ちなみに、日本への影響のみを考えた場合、ロシア製と中国製のソフトウェアから想定される脅威を比較すると、国家戦略とツールの特性上、悟道が活用される可能性が高いことは言うまでも無いだろう。仮に中国でMelioratorのようなボットファームが開発されるとすると、悟道をベースとしてプロパガンダ、偽情報が生成されるのかもしれない。

情報安全保障上の課題と予想される脅威

日本でも誤情報・偽情報の拡散は大きな問題となっており、総務省が「令和3年度国内外における偽情報に関する意識調査」という調査報告を公開している¹²。同報告書によれば、偽情報を見かけたメディア・サービスの5割以上がSNSだったという。ちなみに、２位にはテレビが入っており、民放における外資系メディアとの関係を鑑みると、非常に興味深い結果となっている¹³。つまり、この結果だけ踏まえれば、日本には既に前述したロシアの手口により、誤情報・偽情報が拡散する土壌があると言えそうだ。これは、日本にとっては情報安全保障の観点で弱点となる。

安全保障面だけでなく犯罪対策としても重要

Melioratorを利用したキャンペーンは、2022年から開始されたとみられ、発覚までに約２年かかっている。そのため、現状では、架空のオンライン人格をすぐに発見することは難しいとみられる。

Melioratorのようなソフトウェアは、一般組織でもインフルエンサーとして利用できる可能性がある。オンライン人格（ペルソナ）を大量に生成して、それらに特定ブランドや商品のポジティブな意見を拡散させることは容易に想像のつくことだ。ただし、このような手法には倫理的な問題が伴う。架空のインフルエンサーによるマーケティングは消費者を欺くリスクがあり、悪用される可能性もある。その観点では、Melioratorに関する報告は、近い将来の犯罪行為に対しても警鐘を鳴らすものであると考えられる。

大国の仕掛ける影響工作は、メディアを利用して自国の都合の良い情報を配信するだけのものから、架空のオンライン人格（ペルソナ）を大量生成し、ソーシャルメディア上で間接的に拡散する手口へとシフトしている。現時点では、投稿内容の１つ１つを見ると、違和感を覚えるものが多いと思う。しかし、架空のオンライン人格が数年をかけて有識者やインフルエンサーの立場となった場合、どのような世界になるかは想像もつかない。AIの生成する架空のオンライン人格に日本の情報安全保障が脅かされる時代はすぐそこまで来ているのかもしれない。

よかったらシェアお願いします

URLをコピーしました！

この記事を書いた人

岩井博樹株式会社サイントリサーチフェロー

2000年より株式会社ラック、2013年よりデロイトトーマツにおいてセキュリティ分野の業務に携わり、これまでセキュアサイト構築、セキュリティ監視、フォレンジック、コンサルティング、脅威分析などを担当する。現在は、脅威分析や安全保障分野を中心とした戦略系インテリジェンス生成を専門とするサイントを設立し、主にアジア諸国を中心に日夜分析に勤しんでいる。
経済産業省情報セキュリティ対策専門官、千葉県警察サイバーセキュリティ対策テクニカルアドバイザー、情報セキュリティ大学院大学客員研究員などを拝命する。
著書に動かして学ぶセキュリティ入門講座、標的型攻撃セキュリティガイド、ネット世論操作とデジタル影響工作（共著）などがある。

この著者の記事一覧へ