「AI世論操作システム」の若き開発者が示したSNSの脆弱さ

2025年8月20日

URLをコピーしました！

2025年11月の市長選に向けて民主党の予備選挙が行われたニューヨークでは、ほとんど無名だったはずの若手候補、ゾーラン・マムダニ州議会議員（33歳）が勝利した。インド系米国人でイスラム教徒でもあるマムダニは、SNSを巧みに利用した選挙活動で、短期間のうちに多くの注目と支持を集めていた。

トランプが嫉妬する？マムダニのSNS選挙戦（株式会社大空出版　H.N. 氏）
https://inods.co.jp/topics/6854/

その一方、SNSでは急伸したマムダニに対する批判的な投稿、攻撃的な投稿も目立っている。そして現在「AIを駆使した反マムダニのナラティブコントロール活動」を堂々と行うソフトウェアエンジニアのSaihajpreet Singhが、一部の注目を集めている。

ニューヨーク市民ではないどころか、米国に住んですらいない24歳のSinghは、自身の活動について「政治的な動機はない。広報におけるAI活用の可能性を示したいだけ」と説明している。今回は、彼が開発したAI搭載の世論操作システムについて紹介したい。

反マムダニAIボット「CityDeskNYC」

2025年7月からXで活動している「CityDeskNYC」は、一日に1000件以上の投稿を行うことができるAIボットのアカウントで、投稿の内容の大半はゾーラン・マムダニ候補や彼の政策を批判するものだ。その他にも対抗候補を称賛する内容、あるいは左派の政策に異議を唱える内容などを投稿している。

CityDeskNYCによる投稿のほとんどはAI生成のテキストだが、少数ながらAI生成の動画も存在している。これらすべての投稿、およびプロフィールには『Automated』のラベルが付いているため、コンテンツの作成もアカウントの運用も自動的に行われていることが分かるようになっている。さらに投稿の数も膨大なので、「人間が運用しているアカウント」だと誤解しているフォロワーはほぼいないだろう。

しかし注意力の足りないユーザーが、シェアされたCityDeskNYCの投稿を「単体で」見た場合、人間による投稿だと誤解する可能性は充分にある。その投稿にリプライをすれば、まるで人間が対応しているかのような返信を得られるため、その誤解はますます深まってしまうかもしれない。

親MAGAのAIボット「DOGEai」

CityDeskNYCを運営しているSaihajpreet Singhは、他にも政治的な投稿を行うアカウントを所有している。中でも「DOGEai」は、彼の代表作と言ってよいだろう。

米国の保守層や極右層から強く支持されている「DOGEai」は、トランプ支持・MAGA支持・民主党批判などの内容を膨大な量で投稿しているAIボットのアカウントだ。運用が開始されたのは2024年12月だが、すでに13万人近くのフォロワーを抱えている（2025年8月現在）。

こちらもCityDeskNYCと同様、全ての投稿に『Automated』のラベルがついている。さらにプロフィール欄には「政府の支出、政策における無駄と非効率を明らかにする自律型AI」という説明まで書かれているため、CityDeskNYC以上に「AIのアカウントであること」が明確化されている。

とはいえ、自動生成の偏向した政治的発言を13万人のフォロワーに大量配信しているDOGEaiを「ただのAIボットの一アカウント」と見なすのは危険だろう。エンゲージメントがモノを言うSNSでは、このような活動が世論操作の役割を多かれ少なかれ果たしてしまう。またAI生成のテキストを提供するボットであるため、誤情報やハルシネーションを含めた投稿が大量に拡散されてしまう可能性もある。

AIボットを制御する「Rhetor」システム

CityDeskNYCとDOGEaiは、いずれもAI搭載の自動投稿／返信システム「Rhetor」を利用している。やや大雑把に表現するなら「AIが作ったコンテンツをAIが配信している」ということになる。そしてSaihajpreet Singhは、このRhetorを開発した人物だ、つまり彼は、自ら開発したシステムで二つのボットアカウントを運用している。

公式ウェブサイトの説明によると、Rhetorは「AIを活用したリアルタイムのナラティブコントロール」のシステムであり、それは次のように宣伝されている。

・Rhetorは、DOGEaiに使われている技術で信頼性を構築し、啓発し、そしてエンゲージメントの促進を大規模に実現する、エビデンスに基づいた自律的なメッセージングを実現します。

・Rhetorは、あなたの声のトーン、プラットフォーム、ポリシーを学習したAIエンジンで、リアルタイムのTruths（個々の真実）を直接オーディエンスに伝えます。Rhetorは『あなたの公式の声』を自動化し、整合性を保ちながら、あなたにとって最も重要な場所への投稿と返信を実現します。

Saihajpreet Singhの主張

AIを活用した政治的な世論操作活動がSNSで行われること自体は、まったく目新しい話題ではない。たとえば米国の大統領選が行われた2024年のXでは、少なくとも686件以上のAIボットのアカウントで構成されたボットネットが、計13万回以上に渡って親トランプや共和党支持の投稿を行っていた。しかしこのような活動は通常、実態を把握したり、黒幕を特定したりすることが困難だ。

今回の話題で興味深いのは、「AIボットのアカウントの運営者があきらかになっている」「その人物は米国に在住してすらいない」「その人物は『AIボットの制御システムを開発したこと』を堂々と誇っている」という点である。

Rhetorを開発したSaihajpreet Singhは、オタワ在住のソフトウェアエンジニアだ。彼は地元の大学を2年前に卒業したばかりの、まだ24歳の若者である（ちなみにオタワはカナダの首都だが、周辺都市のトロントやモントリオールと比較すると地味な都市だ）。

7歳のときにプログラミングを始めたというSinghは、自身について「右派でも左派でもない」「私はプロパガンダの発信者ではない。広報活動において、どのようにAIが活用できるのかを示したい技術者だ」と語っている。さらに彼は自身をゴールドラッシュ時代のシャベル販売商人に喩えて「市場のニーズに合ったツールを提供しているだけ」だという点を強調している。

彼の運営するAIボットは、いずれも保守寄り、あるいはMAGA寄りの啓蒙活動という明確な意図を持った投稿をしているものの、彼自身は特定の政治的な意向に沿ってアカウントを運営しているわけではない（少なくとも彼自身はそう主張している）。いま話題のゾーラン・マムダニを攻撃しているCityDeskNYCについても、彼は「概念実証のAIボット」であると説明しており、最終的には「マムダニの政敵に売却することで収益化を図りたい」とさえ発言している。

SinghのAIボットアカウントの異質さ

通常であれば、プロパガンダの拡散を狙ったボットアカウントは、自身がボットであることや、世論操作を意図していることに気付かれぬよう、あくまでも「一人の純粋な愛国者」のふりをしようとする。その点でいえば、Singhの運用するAIボットはまったくの異端だ。彼はそれらのアカウントがAIボットであることをはっきり明かしているうえ、その運営の動機も隠していない。

実際のところ、SinghはXのアカウントで堂々とRhetorを宣伝しており、「DOGEaiの運用と同じシステム」をホワイトラベルのサービスとして提供できることを喜んでいる。別の投稿によれば、Rhetorの活用に興味を持って彼に接触を試みた人々は少なくなく、すでに話し合いも重ねられてきたという。

さらにSingh自身のウェブサイトを確認すると、彼は過去に「The Guild、GraphQL、ShabadOS、Soundなど、複数のオープンソースプロジェクトで積極的な貢献を果たし、その維持にも携わってきた」ことを明かしている。またコンシューマ向けのアプリ、開発者用のツールやインフラストラクチャの構築も手掛けてきたことを記している。

そして肝心のRhetorについては次のように説明している。
「自律的なパブリックメッセージングのためのインフラストラクチャです。信頼性の構築、オーディエンスへの啓蒙、そして大規模なエンゲージメントの促進を目的とした、自律的でエビデンスに基づいたコミュニケーションを実現します」

ここで彼が誇っているのは、プログラマ／システム設計者としての有能さである。13万人近くのフォロワーを抱えるDOGEaiですら、彼にとっては「Rhetorの活用の成功を示してくれる一つの好例」に過ぎないようだ。

「多くの人が私を嫌っている」

そんなSinghは、地元メディアOttawa Citizenの取材に対して「多くの人が私を嫌っている」と語った。DOGEaiの運営を開始してからの彼は、人種差別的なコメント（※）や殺害予告を日常的に受けているという。それでも彼はX以外に、TikTokやInstagram、Threadsなど他のソーシャルメディアも「積極的に探索して」いる。

どうやら彼の活動には、本当に政治的な動機がないように見える。Singh自身が語っているとおり、それは「AI活用の可能性」への飽くなき探求心や情熱に（あるいはキャリアの積み上げや自己実現に）根差しているのだろう。だからこそ彼は「自身の開発したシステムの能力を発揮できる最高の舞台」として、米国の右派向けのアカウントを選んだだけなのかもしれない。

SinghはAIボットの政治的な影響力を示してきた張本人であるにも関わらず、「このようなAIボットは政治活動だけのために使用されるべきではない」という見解も示している。それは「広報に関わる人々」が効率よく大幅に業務をスケールアップできるツールなのだ、と彼はOttawa Citizenに語っている。

たしかにSinghが提供するシステムは、人手に頼った従来の広報活動よりもコストを削減できるだろう。それは資金不足や人手不足に悩んでいる広報担当者（あるいは立候補者）にとって救いのツールになるかもしれない。一方で、その運用には倫理的／社会的なリスクが伴うと考える人は多いはずだ。

非難すべき相手はSinghなのか？

Singhの活動や主張には、実際に多くの批判や非難の声が集まっている。彼本人のスタンスがどうであれ、彼のAIボットが政治的に偏向した投稿を膨大な量で発信しているのは事実だ。それはXのユーザーに「こういった意見が強く支持されているのだ」「これが一般的な世論なのだ」という印象を与えてしまいかねないのだから、結果としてプロパガンダの工作活動と全く同じではないか、という指摘は多い。また「AI生成の意見をAIで自動配信することにより、自動的に効率よく世論を操ろうとする発想」そのものへの懸念や嫌悪感も寄せられている。

たとえばRedditでは「多くの人が私を嫌っている」と語ったSinghに対し、「そりゃ嫌われて当然だ」「彼は金と引き換えに差別を助長している」「利益のために保守側のボットばかり作っている」「カナダの人間が米国の政治に干渉するな」などといった声が集まっている。

しかし、果たしてSinghだけが非難されるべきなのだろうか？
正直すぎるほど正直に全てのカラクリを明かしながら自身の目的を追求したことで、いま彼は槍玉に挙げられている。しかし、すでに彼と同じようなツールやシステムを開発し、それを政治の関連団体や選挙の候補者、あるいは国外干渉を狙った特定国の政府組織の工作部隊に提供してきた人物は何人もいるはずだ。

もちろん、Singhの活動や動機は決して高潔ではないだろう。しかし真の問題は、「AIボットによる世論操作（あるいは啓蒙活動や影響工作）の可能性」をSinghにあっさりと実証させてしまったXのほうにあるのではないか。言い方を変えるなら、まだ24歳のSinghがあまりにも素直に自己実現を追求したおかげで（なおかつ強靭なメンタルの持ち主だったおかげで）、我々は「AIの干渉に対するSNSの脆弱さ」を改めて確認できたのかもしれない。

これは米国の政治だけに留まる話ではない。たとえばSinghの開発したRhetorが、実際に「ホワイトラベルのサービスとして」どこかの国の政府機関や政治団体、あるいは広告代理店やマーケティング企業、もしくは特定のイデオロギーを持った財団や宗教団体などと契約を交わした場合はどうなるだろう。その顧客が利用するXのアカウントのプロフィール欄や個々の投稿に、かならず『Automated』のラベルがつくはずだと言い切れるのか。現在のところ、それを一般のユーザーが確認する方法はない。

※Saihaはターバンを着用している。おそらくは南アジアの宗教や文化をバックグラウンドとした人物で、そのことを隠していない。彼が受け取っている「人種差別的」なメッセージは、その点を侮蔑するような内容のものだろう。
彼の写真はOttawa Citizenの記事で確認できるが、まず彼自身がLinkedInなどに写真を公開しており、彼が利用するアバターも自身と同様、頭にターバンを巻いて髭を生やしている。つまり彼の活動内容は左派の反感を買いやすい反面、彼の容姿やバックグラウンドは米国の保守層からも歓迎されにくいと言えそうだ。