陰謀論者が我に返るAIチャットボット？

偽情報や陰謀論について語られるとき、AIの存在は「人々に嘘を信じこませる困った存在」として扱われがちだ。しかし最近の研究によれば、特別に設計されたAIチャットボットが「陰謀論との戦いに利用できる重要なツール」となるかもしれない。

9月12日のScience誌に掲載された研究によると、研究者の設計したカスタムメイドのAIチャットボットが、参加者たちと数分間のやりとりをし、詳細な回答や論拠を提供することで陰謀論を論破した。その結果、参加者たちの「陰謀論に対する確信」は平均21％減少した。さらに、その変化は2か月後にも持続していたことが示されている。

この研究チームは OpenAIのGPT-4 Turboを利用し、「陰謀説に対して説得力をもった反論をするように訓練されたチャットボット」をカスタム設計した。そして彼らは1,000人以上の参加者を募った。参加者の性別や人種などは、米国の国勢調査と人口統計学的に一致するように調整された。 つまり多様な背景や経験、独自の観点を持った人々を集めることで「さまざまな陰謀説を論破する能力を評価できた」と研究者の一人は述べている。

人々が陰謀論に惹きつけられる理由について、これまで多くの論文が示してきたのは「激動する世界で、安全と確実性を求める欲求」などだった。これまで紹介してきた研究結果の記事にも「愛する家族や友人が陰謀論に陥ったとき、相手の間違いを否定して正論で追い詰めるのは逆効果」などの記述があった。しかし今回の最終の研究結果は「事実と証拠が実際に人々の考えを変えられるケースもある」ことを示している。

とはいえ今回の研究で集められた参加者たちは、陰謀論に深く傾倒している人々の代表者ではない（そのことは研究者自身が言及している）。参加者たちは
・陰謀論と、その根拠を研究者たちから説明される
・それを本当だと思う確信の度合いをパーセンテージで表す
・チャットボットと会話をする（平均8分間）
・会話のあと、ふたたび確信の度合いを表す
という手順を踏んだ。実際に陰謀論を深く信じ、それを拡散している人々に対しても、同じ手法が同じように有効であるのかどうかは疑問が残る。

それでも近年の陰謀論の拡散に（悪い意味で）貢献してきたと考えられがちなAIが、膨大な量の情報を素早く処理し、人間のような反応を生成することで、陰謀論の対処に活用できるというアイディアが有望なのだとすれば、それは興味深い話だ。

調査によると、米国人の約半数が何らかの陰謀論──「1969年の月面着陸は捏造だ」といった歴史の長いものから、「COVID-19のワクチンには大量監視を可能にするマイクロチップが含まれている」といったものまで──を信じている。陰謀論の数と種類はあまりに多い。そして何かを信じている人々の説得には時間と労力が必要となる。研究者の一人は、AIの潜在能力が「オフラインでの暴力を（オンラインで）未然に防ぐ介入方法」として活用できることに期待したいと語っている。