ロシアが仕掛けるAIロンダリング

AIがロシアのプロパガンダを紹介したり、言語によって異なる応答をして対立を煽っている。そして、恐るべきことにAIは学習用データの汚染に極めて脆弱で、わずか0.001%の汚染で誤答率が上がるうえ、従来のAIのテストで検知できないこともわかっている。ひらたくいうと、現在のAIは情報戦に脆弱であり、容易に攻撃者の武器となる。

今回、Newsguard社がレポートしたのは、すでにロシアがAIに誤った回答をさせることを狙った活動を強化していることだ。その中心にいるのは、2024年の偽情報キングに選ばれたジョン・マーク・ドゥーガンだ。

「The Role of the Media in the Fight against Strategic Disinformation」と題する会議で複数のチャネルを通じてナラティブを拡散することで主要AIモデルをナラティブ拡散の武器にできる、と過去の検証（上位10のジェネレーティブAIモデルの回答の32％にドゥーガンのナラティブが含まれていた）を引用して主張した。「ナラティブ・ロンダリング」と記事では命名しているが、主役はAIなのだから「AIロンダリング」と呼ぶべきだろう。

AIを媒介することでナラティブやデマ、あるいは偏見や差別ももっともらしく見えるうようになる「AIロンダリング」は世界に広がっている。世界のどこにも正しい情報だけで満たされた空間はなく、そもそも「正しさ」は常に更新されるものである以上、存在することはあり得ないし、あってはならない。つまり、汚染された学習用データに脆弱な現在のAIは常に誤った回答をすることになる。