Sakana AIが取り組むAI技術を活用したSNS上の情報空間の分析～ナラティブ可視化と情報戦への対応～〈サイバー防衛研究会5月例会報告〉

　5月例会では、Sakana AI 防衛インテリジェンスチームの沢田恭兵氏より、SNS上の偽・誤情報対策とナラティブ可視化システム「ESCA」に関する講演が行われた。生成AIの進展に伴い、画像・動画の生成や加工、文脈改変、ボットによる拡散など、SNS空間における情報操作は高度化・複雑化している。本講演では、そうした情報空間をどのように分析・可視化し、対策へ結びつけるかについて、実装レベルの取り組みが紹介された。

　講演では、SNS上で形成される「ナラティブ（論調）」を意味レベルで抽出・可視化するシステム「ESCA」を中心に、AIを用いた偽情報判定やSNSシミュレーションについて解説が行われた。特に、単なる投稿単位ではなく、「どのような論調が形成・拡散しているのか」を把握するアプローチや、新規性の高いナラティブを探索するノベルティサーチの考え方は、従来型のSNS分析とは異なる視点として興味深い内容であった。

講演会データ 　サイバー防衛研究会5月例会
「AIを活用しSNSの偽情報に立ち向かう〜「SNS空間の可視化」、「真偽判定」、「SNSシミュレーション」〜」
講演者／沢田 恭兵（Sakana AI 株式会社 防衛インテリジェンスチーム）
司会／齋藤 孝道　開催日／2026年５月22日（金）

SNS分析における「ナラティブ」の重要性

　講演ではまず、従来型のSNS分析の限界について説明が行われた。

　一般的なSNS分析では、投稿数、インプレッション数、頻出語、ハッシュタグ、ネットワーク構造などが指標として用いられる。しかし沢田氏は、それだけでは情報空間の実態を十分に把握できないのではないかと指摘した。

　例えば、同一の事象について議論している場合でも、

　「政府による検閲ではないか」
　「報道機関による隠蔽ではないか」
　「組織的な情報操作ではないか」

といった異なる意味づけや論調が形成される場合がある。重要なのは単語の頻度ではなく、「どのような物語として受け止められているか」である、という問題意識が示された。

■報告者の観点
　この点については、報告者自身も重要な視点であると感じた。SNS空間では、個別の情報やその真偽そのものだけでなく、情報が受け手の認識や判断の枠組みの中でどのように意味付けられ、どのような解釈体系へ組み込まれるかが、世論形成や社会的影響力の発揮を大きく左右するようになっているためである。

ESCA——意味レベルでSNS空間を可視化する試み

　本講演で中心的に紹介されたのが、SNS空間可視化システム「ESCA」である。

　ESCAは、チョウチンアンコウの発光器官「エスカ」に由来する名称であり、「混沌としたSNS空間に光を当てる」というコンセプトが説明された。

　特徴的なのは、単なるキーワード抽出ではなく、「ナラティブ単位」で情報を整理する点にある。本講演では、「ナラティブ」は単なる話題やキーワードではなく、ある事象に対する「意味づけ」や「解釈」を含んだ論調として説明されていた。例えば、同じ出来事に対しても、「検閲ではないか」「組織的な情報操作ではないか」といった形で、一定の方向性を持って解釈・共有される認識のまとまりを指すものとして扱われていた。

　講演では、ナラティブを階層構造として整理・可視化するインターフェースが紹介された。利用者は、特定の論調を起点として、その下位に存在する関連ナラティブを展開しながら確認できる構造となっており、従来のワードクラウドや単純なネットワーク図とは異なり、「どのような意味の流れが形成されているか」を把握しやすい設計となっていた。

　また、各ナラティブに関連する投稿タイムラインを参照しながら、関連投稿の推移や伸長を追跡できる点も特徴として紹介された。さらに、投稿に対して、「AI生成」、「改ざんの疑い」や「情報操作の可能性」などに関する分析機能を付与し、偽・誤情報に関する詳細分析へ接続する構成となっていた。

　デモでは、選挙や災害時のSNS投稿群を対象として、「家庭内の被害・生活防衛」「ライフライン被害」「行政対応」「メディア報道」など、複数の論調が階層的に整理されていた。

■報告者の観点
　単純な投稿一覧ではなく、「どのような論点群が形成されているか」を俯瞰できる点は、実務的にも興味深いと感じた。報告者自身も日頃、各種分析を依頼されることがあるが、最初に着手する作業の一つは、個別投稿の真偽確認ではなく、分析対象において「何が論点化され、どのようなナラティブ群が形成されているのか」を把握する作業である。

ノベルティサーチによる新規ナラティブ探索

　ESCAでは、「ノベルティサーチ」というアプローチも採用されている。

　講演では、SNS上で既に大きく拡散している話題だけではなく、小規模であっても新規性の高い論調を検出することの重要性が説明された。

　具体的には、投稿データを再帰的にサンプリングし、既存アーカイブとの差分を確認しながら、新しいナラティブ候補を探索する構造であるという。

　探索アルゴリズムとして、囲碁AI等にも用いられる探索系アプローチを応用しているとの説明もあった。幅広い探索を維持しつつ、有望なナラティブを重点的に深掘りすることで、「まだ大きくはないが、今後伸長する可能性のある論調」を抽出することを目指しているとのことであった。

■報告者の観点
　この点についても、報告者として興味深く感じた。実際の情報空間では、初期段階では限定的だった論調が、特定の事件やインフルエンサー投稿を契機として急速に増幅するケースが存在する。そのため、情報戦の分析の観点で、単に拡散している論調を分析するだけでなく、「どのような論点が形成され始めているか」や「その背後に共通するナラティブや誘導構造が存在しないか」を早期に探索する視点は重要であるように思われた。

偽情報対策の対象は「生成AI」だけではない

　講演では、偽情報の類型についても整理が行われた。

　具体的には、
　　AI生成画像
　　AI生成動画
　　音声クローン
　　部分加工
　　文脈改変
　　ボットによる拡散
　　マルチモーダル統合
などが挙げられた。

　特に印象的だったのは、「本物の（投稿）画像に誤った説明を付与する」タイプの文脈偽装への言及である。

　この場合、画像自体は真正であるため、AIが生成した画像の検知だけでは対応できない。たとえば、生成AIの進化例として、「ウィル・スミスがスパゲッティを食べる動画」が紹介され、短期間で映像品質が大きく向上していることが示された。沢田氏は、人間による目視のみで真偽判定することが難しくなりつつある点を指摘していた。

　そのため、逆画像検索を用いて、元画像の利用履歴や時系列的整合性を確認し、投稿文との整合性を検証する仕組みが紹介された。

AIによる多角的分析と実運用

　講演では、投稿分析において、
　　ユーザー分析
　　反応分析
　　画像・動画分析
　　主張抽出
　　総合真実度判定
を組み合わせた分析基盤も紹介された。

　沢田氏らは、GPT系モデルやGemini 3 Proなどのフロンティアモデルと独自モデルを組み合わせながら、投稿単位で分析を行う構成を採ったとのことであった。

　一方で、沢田氏は、高性能モデルのみを用いた運用にはコストやレイテンシ上の課題があることも説明していた。そのため、
　　特化モデルによる高速スクリーニング
　　高性能LLMによる二次精査
というハイブリッド構成を採用しているとのことである。

　この点は、研究開発だけでなく、実際の大量運用を意識した設計である。

SNSシミュレーションによる「介入」の検証

　講演後半では、ABM（Agent Based Modeling）を活用したSNSシミュレーションも紹介された。

　ここで、ABMとは、一般に、多数の「エージェント（個人・アカウント）」を仮想的に生成し、それぞれに異なるペルソナ（属性や行動ルール）を与えた上で、相互作用による全体変化をシミュレーションする手法である。SNS分析においては、各ユーザーの興味関心や反応傾向、拡散行動などをモデル化し、情報がどのように広がるかを再現することを目的としている。

　本講演では、こうしたABMを用いて、偽情報を検知するだけではなく、「どのようなカウンター発信が有効か」を事前に検証する試みが紹介された。

　具体的には、仮想ペルソナ群を生成し、異なる発信文言に対する反応変化を比較する研究例が示された。単に「正しい情報を出す」だけではなく、発信の仕方や表現によって、受け手側の反応や拡散挙動が変化する点を分析対象としている。

■報告者の観点
この領域はまだ発展途上であると思われるが、単なる「検知」に留まらず、「どのような介入がどのような反応を生むか」を分析対象とする方向性は、今後重要性を増す可能性がある。一方で、実際の情報空間で大規模な実証実験を行うことは容易ではなく、試行機会の少なさが対策研究の進展を難しくしている側面もある。報告者らも類似のアプローチで研究を行っているが、シミュレーションや実験環境において、現実の情報空間の複雑性や人間行動をどこまで再現できるかは大きな課題であると感じている。

おわりに

　本講演を通じて印象的だったのは、「偽情報対策」が、単なる真偽判定から、「情報空間全体の構造把握」へと拡張しつつある点である。

　ESCAは、投稿単位ではなく、ナラティブ単位で情報空間を分析しようとする点に特徴がある。また、可視化、偽情報分析、シミュレーションを統合しようとしている点は、従来型のSNS分析ツールとは異なる方向性を示しているように感じられた。

　もちろん、データ取得制約、評価指標、説明可能性、専門家フィードバックなど、課題も少なくない。しかし、SNS空間が社会的意思決定や危機管理へ与える影響が拡大する中で、このような分析基盤研究の重要性は今後さらに高まる可能性がある。

　今回の講演は、生成AI時代における情報空間分析と偽情報対策の方向性について、多くの示唆を与える内容であった。