Xで親トランプ・共和党のAIボットが活動

2024年10月31日

URLをコピーしました！

AIを利用し、親トランプ・親共和党のプロパガンダをX（旧Twitter）で拡散しているボットネットワークが、米クレムソン大学の研究者たちによって報告された。彼らが2024年9月30日に発表した研究論文によると、このボットネットは大規模言語モデル（LLM）を使用しており、人間のユーザーのアカウントであるかのように活動している。
AIボットはロシアやなどの国々が海外への干渉に用いていることがわかっているが、その規模などについては明らかになっていない。識別が困難なことや、国内のアクターが用いた場合、それを規制する法的根拠が乏しいことが理由としてあげられている。

ボットネットの概要

このボットネットは少なくとも686件の（おそらくそれ以上の）アカウントで構成されており、2024年1月以降に計13万回以上の投稿を行っていた。
研究者たちはメタデータを評価し、返信内容と返信先を追跡して、これらのアカウントが同じネットワークに属していることを突き止めた。これらのアカウントは同じ標的を繰り返し攻撃していることもあった。

ボットネットの標的

これらのアカウントは主に、特定の選挙を狙ってトランプの再選キャンペーンを行う、あるいは特定の共和党の候補者や政策を明確に支持する内容を拡散していた。
たとえばオハイオ州、モンタナ州、ペンシルベニア州、ウィスコンシン州の四つの上院議員選挙では共和党の候補者たちを支持しているが、アリゾナ州の共和党下院議員予備選挙では「トランプに支持されている二人の共和党候補者のうち片方だけを支持し、もう片方のアカウントが投稿するたびに批判を集中させる」といった協働的な行動も見られた。

アカウントの傾向とパターン

保守派や極右に親しまれやすいシンボルやミーム（カエルのペペ、十字架、星条旗など）をアカウントのプロフィール画像に使用している。
また、より人気のある投稿に返信をすることで注目を集めるように設計されている。たとえば政治家の投稿、あるいは議論を呼びやすい政治問題を語る人物の投稿へ頻繁に返信を送る。内容の多くは共和党の候補者や政策を支持したり、民主党の候補者を中傷したりするものだ。

「ブロークンな」AIの動作

冒頭に記したとおり、このボットネットはLLMの技術でリアルな（人間による書き込みのような）会話を大規模に自動生成しているため、正当なアカウントとの判別が難しくなっている。AIの技術により、このような偽アカウントを利用した政治的な影響工作が容易となることに懸念を示す人は多いだろう。

しかし面白いことに、一部のアカウントが「AIで書かれたこと」を自白してしまったおかげで、クレムリン大学の研究者たちはネットワーク内の多くのアカウントを特定することができたという。

研究者たちによると、このボットは当初、管理の厳しいChatGPTを使用していたようだ。しかしボットネットのアカウントのひとつが「こんにちは、私はOpenAIによってトレーニングされたAI言語モデルです。質問がある場合、さらにサポートが必要な場合は、遠慮なくお尋ねください！」という文言を含めた投稿を行ってしまった。
そして今年6月には、このボットが検閲を回避するため、より小規模なモデルのDolphinを使用している様子が観察された。このときも投稿の一部に「Dolphin です！」や「検閲なしのAIツイートライター、Dolphin」といった文言が含まれてしまった（なおDolphinは、他者を欺く目的での製品使用を禁止している）。

同様の「自白」は以前に「Anatomy of an AI-powered malicious social botnet」でも言及されており、AIボットを識別するための手がかりとして今でも利用できることを示唆している。「Anatomy of an AI-powered malicious social botnet」ではボット検知ツールとして有名なBotometer、OpenAI自身が2023年に公開したAI text classifier、GPTZeroを用いてAIボットネットを判断できるか調査した。結果として、どのツールもボットであると判断できなかった。「自白」は馬鹿げた行為だが、AIボットを識別するための数少ない手がかりなのだ。

黒幕と対策の問題

このボットネットが誰に運用されているのかは判明していない。しかし米国の選挙のみを狙い、非常に特定的された共和党支持の活動を過度に進めていることから、研究者たちは「国外から行われているプロパガンダ活動ではなく、米国内で運営されている可能性が高い」と指摘している。たしかに「親ロシア、親中国のプロパガンダを拡散する目的で、米国の国内問題や選挙を利用する活動」などとは大きく異なっているように見える。
なお、米FBIはオランダ当局と協力してロシアのAI強化型ボットMelioratorを摘発したことがある。

しかし彼らの指摘が当たっている場合、このボットネットの違法性は低くなってしまう。現時点の米国では、ソーシャルメディアでのボットや偽アカウントそのものを禁じる法律がほとんど存在していないので、プラットフォーム側の規制に頼るしかないということになる。現在のX（あるいはイーロンマスク）に、このようなボットネットへの適切な対策を期待するのは難しいかもしれない。実際、このボットネットの研究に関して米NBCニュースがXへコメントを求めた際には、多くのアカウントが削除されたものの、問い合わせに対する回答は得られなかったとNBCは伝えている。