ISDのレポート　TikTokで白人至上主義者はVIP待遇

2024年9月12日、ISDは「TikTok and White Supremacist Content」と題するレポートを公開した。ISDはこれまでもTikTokでのネオナチ活動のレポートやアルカイダやISの活動についてのレポートを公開してきた。

今回のレポートのポイントでは、TikTokの規約に反している白人至上主義の75人のユニークユーザーの108のコンテンツを対象に分析が行われた。TikTokのモデレーションにもかかわらず、白人至上主義のコンテンツが削除されずに残っていることや、検索候補として白人至上主義に関するコンテンツを見つけやすい言葉を提示し、一度白人至上主義のコンテンツを見ると次々とレコメンドしてくるという実態がわかった。
主なポイントは下記である。

・TikTokでは白人至上主義者がモデレーションを回避するために一部を伏せ字にしたり、違うスペルにしている言葉を検索候補として表示してくる。これによってモデレーションを回避している特別な言葉を使ったコンテンツがすぐに見る狩るようになっている。

・白人至上主義的な傾向を持つ利用者に白人至上主義のコンテンツを薦めるアルゴリズムになっており、フォロワー数の少ない投稿者にコンテンツでも10万回以上再生されるなど多数にリーチすることが可能となっている。

・ISDは2021年にも同種の調査を行っている。今回のコンテンツの65％は直近3カ月以内に投稿されたものだったが、前回は83％だった。つまり、今回は古いコンテンツが削除されずに残っている割合が多かったことになる。なお、TikTok自身の発表によれば、これまで9,100万本以上のコンテンツを削除しており、96.7％以上はユーザーからの連絡前に削除していたという。しかし、ISDの調査対象のコンテンツ（全て規約違反）は場合によっては数年間削除されずにいた。

・今回の動画の再生数は6,097回（中央値）であり、2021年の調査の時の503回の10倍以上に増加していた。今回の調査で再生数10万回以上のコンテンツは16本、最多は130万だった。

・108本のコンテンツに500以上のハッシュタグがつけられており、そのうち280は独自のものだった。もっとも多かったハッシュタグは「#fyp」（26回）、次いで「#foryou」（16回）だった。

・調査対象の75のアカウントのうち37のプロフィールには明らかにヘイトや過激な文言、白人至上主義に関連する人物やグループへの言及があった。つまりプロフィールを見ただけで、問題があるアカウントだとわかる状態だった。

・ハイブリッド・ヘイトの増加。白人至上主義以外の過激な主張やヘイトが含まれるものが66％あった。これは2021年調査の33％から倍増している。

・内容は、グループの宣伝や勧誘、プロパガンダや陰謀論、白人至上主義のテロリストや人物やグループの礼賛、反ユダヤなど他のヘイトとの組み合わせだった。

・TikTokはモデレーションの努力を行っているが、検索やレコメンドのアルゴリズムは白人至上主義が効率的にコンテンツを拡散する手助けをしている。また、先行研究で明らかになったようにTikTokの「サウンド」はコンテンツが削除された後も音声は残って再利用される可能性がある。

TikTokテロリストという言葉が生まれたように白人至上主義などのTikTokは過激なグループに利用されることが多くなっているようだ。