ISD、選挙におけるAIの脅威はパーセプション・ハッキング

2024年11月13日

URLをコピーしました！

ISDは2024年11月7日、ISDは8月以降選挙に関連してAIについて言及したSNS投稿110万件（推定162億9000万閲覧）を分析した結果を公開した。レポートによると、AIそのものよりも、「これはAIではないか？」と疑いを持ち、信憑性を低く判断しているケースが多く確認された。
特に大統領候補者またはその支持者のいずれかから発信されたコンテンツのすべてをAIが生成したものであると主張またはほのめかしている利用者が多く、選挙とAIについて論じている投稿の45%が該当した。AIが生成するテキスト・コンテンツや音声アシスタントに関する議論も多く、全体の21％を占めていた。
投稿をAIが生成したものであるかどうかを判断する際、時代遅れのツールや不完全なOSINTによって誤った結論に達している例は13％あった。その結果、誤った結論に基づいて敵対する候補や支持者を非難することもあった。

Xで500万回再生された投稿では、ジョー・バイデン大統領がハリス副大統領に電話した際の会話をAI音声検出ツールにかけたものがある。投稿には、「その音声がAIによって生成されたものである可能性が98%ある」と書かれていたが、当該ツールを提供している企業は投稿者が、「AIが生成した」という結果を出すために、異なる音声クリップをツールにかけたと語った。
別の例では、170万インプレッションを獲得したハリス氏の集会の写真がAIで生成された可能性が92%あると示すAI画像検出ツールのスクリーンショットがある。しかし、複数のファクトチェック機関は、その画像は本物であると確認している。AI画像検出ツールが誤っていたか、あるいはAIを検出するために別の写真が使われた可能性がある。しかし、多くのユーザーは、AI画像検出ツールのスクリーンショットが、その写真がAI生成であるという疑いを裏付ける証拠であると信じ、その写真の手や腕、影などが疑わしいと独自の分析を開陳していた。

こうした混乱と汚染はISDによればAIが生成したコンテンツそのものが大量かつ真偽判定できないために起きているというよりは、多くの人々が党派的に「敵対候補やその支持者はAIで生成したコンテンツを使っているに違いない」と考え、目に映るものを信憑性低いものとして認識するようになり、その確信を時代遅れのツールや誤ったOSINTによって強化しているためである、と分析している。

レポート中では「パーセプション・ハッキング」という言葉は使われていなかったが、発生している問題はパーセプション・ハッキングであり、AIの脅威がパーセプション・ハッキングとして具現化していることがわかる。