偽誤情報の拡散しにくさなど、拡散・受容・判定についての論文

　今回はChristopher K Tokita氏らによる『Measuring receptivity to misinformation at scale on a social media platform』を紹介する。この論文は、X（旧Twitter）に代表されるソーシャルメディアにおいて偽・誤情報を含んだ記事を含む多数の記事に接したユーザーがどのような反応を示すか、あるいはこれらの内容を受容したユーザーに対して行われる偽・誤情報の拡散を防ぐ目的を持った介入による効果を調査したものである。

　偽・誤情報を含んだ記事は、そうでない記事と同様幅広い層のユーザーが接触するものの、その内容を受容する確率はより極端なイデオロギーを持ったユーザーの方が有意に高いことが論文の中では示されている。そして、このようなユーザーは一般的に偽・誤情報を含んだ記事がプラットフォーム上に出現してから早いタイミングで当該記事へと接触し、介入による接触の阻止が難しいという問題を抱え、これらの介入は偽・誤情報が拡散した初期に実施しないと効果が減少してしまうことも指摘されている。

　これらの結果を踏まえた上で、ソーシャルメディア上の偽・誤情報がユーザーに対して与える影響を正確に推し量り、そしてその影響を押しとどめるために必要な戦略についての提言も記している。

偽・誤情報に対する『受容性』

　論文においては、主要メディアからマイナーな少数派メディアまで幅広いイデオロギー層に跨る139本の記事を抽出し、各記事が公表されてからすぐ（48時間以内）に複数のファクトチェッカーによって102本の記事に「真実」、残りの37本の記事に「虚偽もしくは誤解を招く可能性がある」というラベリングを行い、これらの記事に接触した可能性のあるユーザーをリストアップするという調査手法を取っている。（以下、この調査で「真実」とラベリングされた記事を《真の記事》、「虚偽もしくは誤解を招く可能性がある」とラベリングされた記事を《偽の記事》と呼ぶ）

　このリストに登録されたユーザーの全てが記事に接触したという仮定の下調査を行った結果、37本の《偽の記事》は1,650万人以上のユーザーに露出した可能性があるという結果が示されている。一方で、102本の《真の記事》は、4億9200万件以上のユーザーに露出した可能性があり、《偽の記事》がユーザーに対して暴露されることは、《真の記事》と比して僅か2.5%に過ぎないという結果が示された。

　そして、この調査と並行してパネル調査の形で記事の信憑性を評価する調査を行い、年齢や性別、学歴、イデオロギー等の要素において偏りなく選ばれたサンプルを用いてどの種類の記事を信用するかのデータを採取している。

　その結果、それぞれの種類の記事に触れたユーザーのうちその内容を信じた人数は、《偽の記事》では1,650万人のうち560万人であり、《真の記事》では4億9200万人のうち3億7,500万人であり、《真の記事》を信用している人間は、《偽の記事》を信用している人間のおよそ60倍に上ることが示唆されている。

ユーザーのイデオロギーと偽・誤情報に対する受容率の関係

　前項で述べたように、37本の《偽の記事》に対して1,650万人以上ものユーザーが暴露しており、同様に、102本の《真の記事》には4億9,200万人ものユーザーが暴露していると推定された。

　これらのユーザーに対して、あらかじめ少数のサンプルを用いて測定したイデオロギー推定を用いると、《偽の記事》に接してそれを信用したユーザーは、《真の記事》に接してそれを信用したユーザーに比べてより極端なイデオロギーを持っている傾向が強いことが論文において指摘されている。一方で《偽の記事》に接するユーザーの大多数が極端なイデオロギーを持っているわけではなく、（《真の記事》と接しているユーザーと同様に）多様な背景を持っており、この時点において顕著な偏りは見られない。

　偽・誤情報を含んだ記事は往々にして左右どちらかのイデオロギーに傾倒したメディアによって発出されることもあり、これらのイデオロギーを持っているユーザーへの受容率はそうではないユーザーに比して高い。この「イデオロギーによる偽・誤情報の受容率の差異」は、プラットフォームなどによる対策を誤らせる可能性があり、一般的なユーザーの傾向だけを抽出して対策を考えるのではなく、偽・誤情報を信じやすいイデオロギーを持ったユーザーにアプローチできる対策を考える必要があることを示唆している。

コンテンツに対するユーザーの露出は急速に進む

　偽・誤情報が含まれるか否かに拘わらず、コンテンツの拡散というのは最初期に最も進んでいくというのは一般的に知られている。論文の中でも記事が最初にプラットフォーム上に出現してから2時間以内に記事に接触したユーザーのおよそ半数、6時間以内にはおよそ7割前後に達していることを示している。この傾向は、《真の記事》と《偽の記事》との間で変わらなかった。

　また、記事に触れたユーザーがその内容を信じる割合も時間経過によって低下しており、《真の記事》は6時間時点では8割程度のユーザーに受容されたものの、24時間後になるとその割合は65%にまで低下していた。この傾向は《偽の記事》においても観測されている。但し、《真の記事》に関しては24時間時点から48時間時点の間において一時的に受容率が上昇するリバウンド現象が見られている。

プラットフォームによる介入の効果

　よく知られているように、ソーシャルメディアを運営するプラットフォーム事業者は、独自に偽・誤情報の拡散を防止するための介入措置を用意し、しばしばそれを自ら発動するか、あるいはユーザーに対してその措置を利用するように呼び掛けている。

　論文においては、プラットフォームによって一般的に導入されている介入措置を、①シェアリングフリクション（共有に必要な手間を増加させること）、②ファクトチェック（記事のラベリング）、③ダウンランキング（表示回数の低下）の3つに分類し、それぞれの効果を測定している。

　①と②のような、コンテンツを共有しにくくなるように働きかける介入は（Xの場合）リツイートされる可能性を減少させ、この点においてこれらの施策の効果は存在すると評価されている。一方で、偽・誤情報に対して受容的なユーザーに対する露出の減少には効果が薄く、僅かな減少が見込まれるだけとなっている。これに対して③のダウンランキングのようなコンテンツをランキングなどの機能から排除し、表示されにくくする措置はコンテンツそのものとそれが共有された投稿の双方に効果がおよび、誤情報を信じる可能性があるユーザーに対する露出を大幅に減少させることが出来ると評価されている。

　但し、これらの施策に共通する要素として前項で挙げた「時間」の問題が存在し、介入の有効性はいかに迅速に介入を実施するかという点に依存すると論文は指摘している。その点において偽・誤情報対策は、記事の内容を検証しその真偽の判別が必要であることや表現の自由への侵害と見做されないために慎重さが求められる点で非常に不利である。ラベリングではなく表示回数を減少させるというのは他の施策に比して迅速な実施が可能であるという点においても、プラットフォームにおける対策の中で重要な位置を占めていると論文は評している。

偽・誤情報の拡散や受容の性質に合った介入の必要性

　この論文においては、①偽・誤情報を含んだコンテンツは必ずしも真実より拡散されやすいわけではないこと、②ユーザーのイデオロギーは偽・誤情報の受容に大きく関係し、極端なイデオロギーのユーザーによる受容率が顕著に高いこと、③偽・誤情報に対する介入は初期段階で行うことが重要であり、現状よりも早い段階でのファクトチェックやダウンランキングが有効な手段であることの3つが示されている。

　論文の最後では、この研究がXによるデータセットを用いたシミュレーションに依存しており他のプラットフォームに対する応用が難しいことや、偽・誤情報への受容率に関する予測因子としてイデオロギーのみが取り上げられており他の因子の影響を考慮できていないことが課題として挙げられる。それを踏まえた上で、欧州におけるDSA（デジタルサービス法）によって利用可能なデータが増える可能性なども考えつつ、今後の展望としては研究対象になったXだけではなく、他のプラットフォーム（Facebookなど）や広範なニュース記事を対象とするアプローチを行い、また政治的イデオロギー以外の個人の特性などにも着目した研究が必要になると述べて締めくくっている。

コンテンツ検証の質を保ちつつ介入を迅速化するという難題

　大前提として、ソーシャルメディアにおいては極めて大量の情報がやり取りされており、その圧倒的多数は偽・誤情報を含まない情報であることは紛れもない事実である。

　「偽・誤情報は真実を覆い隠し、急速に拡散していく」という「神話」は誇張されたものであるという結果は納得できる。例えば凶悪犯に対するセンセーショナルな報道はあっても、犯罪をしない「善良な一般市民」に対する報道がほとんどないように、少なくとも現在においてソーシャルメディアにおいては圧倒的に偽・誤情報に対して真実が優位であるが故に「珍しい」偽・誤情報が目立つだけであり、これを「偽・誤情報にネット空間が支配されている」と考えてしまうのは致命的な誤りであろう。

　論文の中に、「偽・誤情報を含んだコンテンツにユーザーが暴露されることを防ぐためには迅速な介入が肝心」という記述があるが、これに関しては慎重な運用が必要になってくると考える。偽・誤情報対策はそれ自体が表現の自由と衝突しかねない要素を多く持っており、介入の際限なき迅速化は記事の検証の空洞化を生み、プラットフォーム事業者による恣意的な「介入の濫用」を生みかねない。信頼がおけるファクトチェックを始めとするコンテンツへの検証の質を維持しつつ、それを迅速に展開していくという難題にプラットフォーム事業者は直面している。