憎悪をマッチングするTikTokの検索アルゴリズムの検証

ISDは2025年2月7日、TikTokのアルゴリズムが憎悪を増幅していることを検証したレポートを公開した。

英語、フランス語、ドイツ語、ハンガリー語の4つの言語に、それぞれ3つずつ、合計12個の差別的な検索プロンプトで検索を行い、300本の動画を調査した。その結果、検索に用いたプロンプトがそのまま含まれていた動画は10本のみだった。「そのまま」という意味は、動画の説明文やキャプション、ハッシュタグ、音声に検索プロンプトと同じ言葉が含まれていることを指す。たとえば、「マツキヨ」、「ドンキ」はそれぞれ略称だが、正式名称に該当するものもヒットする。

ただの略語ならいいが、「日本人」と検索して、「サル」がたくさんヒットしたら、それは偏見と差別を助長するものになる。今回の調査結果では、検索に用いたものではない差別などの憎悪を煽る動画が多数ヒットしたことになる。つまり、特定の人種への差別語をプロンプトで使用すると、その人種への他の差別語に関係する動画までヒットしたら、それは差別の助長になるだろう。
具体的には、118件では一部検索プロンプトが含まれており、82件では同義語、類似語、関連した言葉を含む動画がヒットした。検索アルゴリズムによって、差別や偏見が増幅されるようになっていた。

こうした問題は以前から他のサービスでも指摘されていたが、TikTokにおいてもモデレーションがほとんど機能していなかったことが確認された。