AI技術とそれに伴う低信頼情報・悪意あるデータの拡散リスクへの一考察

　DeepSeekショックを契機に、生成AIのさらなる技術革新が期待される。しかし、ITの進化とリスクの増大は常に表裏一体であることを忘れてはならない。

　近年、AI技術の急速な発展により、情報の収集・分散・拡散の手法とスピードは飛躍的に向上している。しかし、これに伴い、従来のサイバー脅威や情報操作のリスクは一層複雑化・高度化の一途を辿っている。特に、GitHubポイズニングに代表されるオープンプラットフォームを媒介とした悪意ある情報やデータの拡散は、あらゆるシステムに実装が進むAIの誤認を誘発し、社会全体に誤った常識を浸透させていく危険性を孕んでいる。これは、必ずしも悪意あるコードの拡散だけに限った話ではない。このような状況下において、本問題は単なる技術的課題にとどまらず、国家安全保障や情報戦略の観点からも看過できない重大な脅威となりつつある。

1. GitHubポイズニングの実例と安全保障への示唆

　中国のセキュリティ企業であるThreatbook社によれば、ベトナムを拠点とする脅威アクターが、セキュリティ研究者がGitHub上で公開したWindowsカーネルモードドライバの特権昇格脆弱性に関する概念実証（Proof of Concept）コードをフォーク（派生）し、悪意あるコードを混入させて「ポイズニング」を実行したと報告されている。フォーク（派生）したコードは、C2フレームワーク¹の関連ファイルとして配布されている。

　この攻撃手法の厄介な点は、悪性のコードを混入したリポジトリが、第三者によりさらにフォーク（派生）されてしまった場合、増えたフォーク先やキュレーションサイト、SNSなどを介して拡散されることで、インターネット上に永続的に残存する可能性があるという点である。この現象は、近年注目されつつある生成AIを活用したOSINT（Open Source Intelligence）分析を含むインテリジェンス活動にも影響を及ぼしかねない。

　この問題は、単に個々のシステムのセキュリティ侵害に留まらず、国際的なサイバー防衛戦略や軍事情報戦の文脈において、敵対勢力が情報操作の手法として利用するリスクを孕んでいる。高度なAIシステムによる情報評価が進む現代において、悪性データの誤認が国家の意思決定プロセスや安全保障政策に及ぼす影響は計り知れない。

2. AIによる情報評価とその脆弱性

　現代の生成AIは、大量のインターネット上の情報を基に学習し、情報検索・要約・分析を行っている。しかし、GitHub上のリポジトリにおけるフォーク数やエンゲージメント指標が、そのまま「信頼性」の評価に反映される場合、悪意ある改変情報が正当な情報として認識されるリスクが高まる。

　実際に、複数のキュレーションサイトにおいて悪性リポジトリが高評価を受けた結果、生成AIがこれらの情報を正統なものと誤認し、出力結果の上位に表示してしまう事例が確認されている。

　このような事象は、情報伝播システムの設計原理そのものが攻撃対象となり得ることを示唆しており、情報戦における「信頼性の操作」が新たな戦術として利用される可能性を孕んでいる。各国の安全保障機関は、AIの情報評価アルゴリズムに対する敵対的介入のリスクを十分に認識し、早急に対策を講じる必要があると考える。

3. 多層的拡散メカニズムとその戦略的影響

　前出のGitHubポイズニングや類似の情報拡散手法は、単なる技術的攻撃にとどまらず、複数の拡散チャネルを経由することで、情報の改竄や拡散を加速度的に進行させる可能性がある。この影響は既に生成AIによるリサーチ結果にも顕在化しつつあり、特に安全保障の文脈を含む情報においてその影響が顕著である。

　具体的には、下図のようなフローが従来より確認されており、一部の生成AIに対して既に影響を及ぼし始めている。もはや生成AIは、自国の情報エコシステムの一部にとどまらず、仮想敵国による認知戦のツールとして悪用される段階に入っていると認識すべきであろう。

　今後想定される情報戦の手法として、多層的拡散メカニズムは各国が利用するものと推察される。特に次のシナリオは、以前より先行研究されており、容易に思いつくシナリオであるだけに改めて警戒しておきたい。

①情報拡散と評価操作　脅威アクターは、意図的に改変された情報に対して「いいね」などのエンゲージメントを誘導し、アルゴリズム上の評価を意図的に操作する戦術を用いる可能性がある。こうした手法により、従来の信頼性評価指標が操作され、情報戦におけるフェイクニュースや誤情報が戦略的資源として利用されるリスクが考えられる。

②生成AIの誤学習の誘発　AIシステムは、膨大なウェブ情報を学習対象としている。そのため、悪意ある改変情報が広範に拡散されると、AIが誤った前提のもとで学習を進め、誤情報を正統なデータとして取り込むリスクがある。これは、国家レベルの情報分析や軍事戦略における「情報の歪み」として、深刻な安全保障上の脅威をもたらすことが予想される。

③生成AIによる評価誤認とユーザー表示の悪用　①②により、AIの評価アルゴリズムが誤学習し、悪意ある情報が正統な情報と同様に高い評価を受けることで、生成AIはその情報を信頼できるものとしてユーザーに提示してしまう。特に、過去に誤認された情報が広く一般に正当化されてしまっている場合、その訂正は歴史的事実を覆すほどの困難を伴う。すでに誤認が定着してしまった情報は、いかに新たな事実や正確なデータを提示しても、根強い誤解から抜け出すのが非常に難しい現実がある。

　さらに、特定国から意図的に誤認を狙った情報が拡散されることで、生成AIの学習データに悪影響を与え、誤った前提のもとで学習が進むリスクも指摘される。特に、地域性を含む情報は、周辺国のユーザー以外はその真偽を判定することは難しく、その影響を受ける可能性が高い。

　このような攻撃シナリオでは、生成AIが学習データ中の悪質な改竄情報を正当な情報と誤認する結果、ユーザーは無意識のうちに誤情報に基づいた判断を下す恐れがある。さらに、こうした誤認が多層的な拡散チャネルを通じて加速する場合、国家安全保障に直結する重要な情報操作として機能する可能性もある。

　したがって、生成AIの評価アルゴリズムの堅牢性を高めるためには、情報の真偽を判定する改竄検知技術や、多角的な信頼性評価システムの導入が急務となる。

（補足）AIによる誤情報における宗教的問題

　生成AIの誤認問題に関しては、昨年SSRN Electronic Journalに掲載された論文「AIに関する技術的および宗教的観点からの誤報と偽情報」が興味深い。この論文からは、AIが生成する誤情報の問題が、宗教的信念や倫理観に基づいた新たな倫理的・哲学的問題を引き起こしていることが分かる。

　同論文は、AIが生成する誤情報（論文では、「misinformation」「disinformation」の両方を扱っている）に対し、宗教が果たす役割について倫理的・社会的・哲学的観点から考察している。特に、カトリック、イスラム教、ユダヤ教、プロテスタントの各宗教の専門家が、それぞれの伝統と教義に基づいてAIによる誤情報問題に対する独自のアプローチを提示している。

　宗教問題は、パレスチナ・イスラエル戦争でも分かるように、民族の分断や過激化を引き起こす可能性があるため非常に大きな問題である。同論文では、AIのプロパガンダの利用や陰謀論の形成、宗教的感情の悪用といったリスクシナリオについても考察している。

　本論文では、AIによる誤情報の問題が、「真理とは何か」「知識はどのように構築されるのか」といった認識論的・哲学的な問いと密接に関連していると主張している。伝統的な宗教は啓示や聖典を通じて確立された「真理」に対して、AIが生成する情報は統計的手法やアルゴリズムに基づいており、宗教的真理とは異なる構造を持つとし、このギャップをいかに埋めるかが、今後の重要な課題であると指摘している。

4. AI技術導入の拡大と新たな安全保障の視座

　スマートフォンやウェブブラウザ、各種デジタルツールへのAI実装が進展する中、個々の利用者のみならず、軍事・外交・経済などの分野においてもAIの提供する情報が間接的に政策決定へ影響を及ぼす時代が到来しつつある。特に、AI主導の情報戦が熾烈化する中で、誤情報や改竄データの拡散リスクは、単なる技術的課題にとどまらず、国家安全保障の根幹に関わる重大な問題となっている。

　各国の軍事・防衛当局は、AIシステムの信頼性確保のための技術的・運用的対策に加え、情報評価アルゴリズムの透明性向上や改竄検知技術の強化を急務とする必要がある。OSCE（欧州安全保障協力機構）をはじめとする国際機関も、こうしたリスクに対して警鐘を鳴らしており、今後はAIを搭載したOSINTツールなどの活用も含めた、統合的な安全保障戦略が求められる。

5. まとめ

　AI技術の進展は、情報の取得・分析・拡散に革命的な変化をもたらす一方で、情報ネットワークの高速化・大規模化に伴い、悪意あるデータの拡散という新たな脅威を生み出している。この脅威は、SNSをはじめとするプラットフォームにおいて、情報の派生や共有を通じて一層複雑化しつつある。GitHubポイズニングの事例はその一端に過ぎず、今後、国家間の情報戦においてAIが果たす役割とその脆弱性を的確に理解し、対策を講じることが不可欠である。

　また、安全保障の観点からは、技術革新と並行して、情報の正当性評価や改竄検知技術の開発を推進するとともに、国際的な協調体制を構築することが急務であると考える。これにより、デジタル時代の新たな情報戦に対応する防衛力の強化が期待される。

注

1. セキュリティの専門家がセキュリティ診断を行う際に、侵入したデバイスをリモート制御するために利用するセキュリティツール。 ↩︎