ISDによるTikTokでのネオナチ系ネットワークの調査報告

7月29日にISDが発表した記事によると、ナチズムを公然と支持し、ナチスを自認している数百のTikTokアカウントが、極端なイデオロギーを広めるための組織的な活動を行っているという。そのネットワークは生成AIを利用して過激なコンテンツを作り、またTikTokのアルゴリズムを巧みに悪用している。そのため、たとえフォロワー数の少ない新規アカウントでも、数多くのユーザーへ過激な内容のコンテンツを提供することができる。それらの動画は若者たちの間で広く拡散され、数百万回、数千万回の閲覧数を獲得している。

特筆すべきは、ISDが「ネットワークの戦略や活動」そのものだけではなく、「この活動に、TikTokのプラットフォームがどう対応しているのか」まで調査したことだ。

ISDは、TikTokのコミュニティガイドライン（ヘイト思想、暴力行為の推奨、ホロコースト否定などの禁止）に違反している50のアカウントを通報したが、翌日までに停止されたアカウントの数はゼロで、ほぼ半数（23）のアカウントがバンされるまでに一か月を要した。これらの23のアカウントは、削除されるまでの一か月間に少なくとも計200万回の再生回数を獲得していたという。「TikTokは、ナチス支持のヘイトスピーチやプロパガンダを流すアカウントを、適切かつ迅速に削除できていない」とISDは結論づけた。

さらに、この活動は他のプラットフォーム（XやFacebook、Telegramチャンネルなど）と連携しているため、たとえ特定のTikTokアカウントが削除されても、他のプラットフォームでフォロワーに訴えかけては何度でも復活することができるため、違反しているアカウントを定期的に削除するという対策そのものの効果が薄い。「要するに、TikTokはヘイトスピーチの拡散の連携性を扱うための機能を備えていない可能性がある」とISDは述べている。

このネットワークがコンテンツ作成、拡散、そして摘発回避に用いている戦略については、ここで詳細な情報を読むことができる。特に「音楽の使い方」「禁止ワードでの摘発を避ける暗号の利用」などの具体例の報告が非常に興味深い内容となっている。