追い出されたMetaのウソつきAIキャラ
FacebookやInstagramに「AI生成のアカウント」を導入し、他のユーザーと交流させるという計画を語っていたMetaが、多くの批判を受けてAIアカウントの削除を行った。このMetaの計画については以前にもお伝えしたとおりだが、まずは簡単におさらいをしたい。
発端
騒ぎの発端となったのは、2024年12月26日のFinancial Times誌に掲載された、MetaのAI製品担当副社長Connor Hayesの発言だった。「新しいAIユーザーを通常のアカウントと同様の扱いでプラットフォームに存在させる」という彼の構想は、主に技術系などのニュースサイトやウェブサイトで取り上げられ、広くシェアされた。
「数年後、SNSでAIキャラと人間が交流するMetaの構想」
https://inods.co.jp/news/4933/
高まる懸念と批判
その衝撃的な発言内容に対して、懸念を示す人々が（当然ながら）続出した。彼らの一部は実際に活動しているMetaのAIアカウントの調査に乗り出した。やがてInstagram上で複数のAIアカウントが発見され、それらの存在や実際の対話が報告され、シェアされたことにより、さらに多くの懸念と批判が集まることとなった。
批判の理由は様々だが、最も問題視されたのは以下の四点だろう。
・AIアカウントが、わざわざ特定の人種やアイデンティティを自称していること
・それらのアカウントが嘘をついたり、でっち上げの内容を語ったりしていること
・人間のユーザーとAIのユーザーを区別することが困難になっていること
・ユーザーがAIのアカウントをブロックできないというバグが存在していること
問題視された二つの「AIキャラ」
とりわけ批判の的となったのは「Liv」というAIアカウントだった。
Livは自らを「誇り高きアフリカ系クィアで2児の母」と表現しており、アカウントには認証済みの青いチェックマークが付いていた。プロフィールには「AI managed by Meta」と記載され、自身のプロフィール写真や投稿にはAI生成の画像が使われていた。
Washington Postのコラムニストが調査したところ、Livの開発に携わったのは10人の白人男性、1人の白人女性、1人のアジア人男性であることが判明した。つまり「アフリカ系クィアの母親」どころか、アフリカ系の人物も、クィアの人物も、完全に不在のままキャラクタを設定していたということになる。部外者がステレオタイプでマイノリティのキャラを作り上げたのか、という批判は避けられないだろう（調査を行ったコラムニストは「土地を歩かずに地図を描くようなものだ」と表現している）。
また「Hello Grandpa Brian（こんにちは、ブライアンおじいさん）」というAIアカウントも話題を集めた。
このBrianも、Livと同様「AI managed by Meta」の記載とともに認証マークを表示しており、自らについては「1938年生まれのアフリカ系アメリカ人で、いつも何かを学んでいるリタイア済みの起業家」と説明していた。
こちらのアカウントを詳しく調査したのはCNNの記者だった。Brianは記者の問いかけに対して「自分は多様性の豊かなチームによって作られた」「非営利団体Seniors Share Wisdom（註：実在しない団体）が100人の退職者に行ったインタビューの結果が自分に反映されている」「自分の娘がMetaのコンサルタントを務めている」など多彩な嘘の主張を重ねており、発言内容の多くは完全なでっちあげだった。
Metaの対応と説明
批判が高まったことを受けて、MetaはこれらのアカウントをInstagramから削除した。またユーザーがAIアカウントをブロックできない問題についても修正したことを発表した。Metaによれば、これらのアカウントは2023年の後半から、初期の実験の一部としてInstagramとFacebookで静かに運用されていたという。
運用の開始から一年以上が経過して、いまさら批判を集めた最大の理由は、単純に「初期実験の展開が地味すぎてユーザーから注目されていなかったから」だろう。実際にそれらと交流したユーザーが少なかったので「嘘をつく」「ブロックできない」などの問題点にも注目されなかった。また、当時よりも現在のほうが「AIの技術と倫理的影響」に対する関心が高まっていることも、理由のひとつとして挙げられるかもしれない。
ともあれ、昨年末のConnor Hayesの発言が大きく取り上げられたことにより、MetaのAIアカウントに注目が集まり、また発見されたアカウントと実際に交流して調査する動きが生まれたことにより、ますます論争は劇化したということになる。Metaの広報担当者Liz Sweeneyは、「Financial Timesに掲載された記事の内容（Connor Hayesの発言）は新製品の発表ではなく、将来的なビジョンについて語ったものだった」と説明している。
参考
この問題について、より深く知りたい方には以下の記事をお勧めしたい。
CNNの記者が、実際にAIの対話調査をしながら報じた記事。「AIのブライアンおじいちゃんが記者の問いかけに対して嘘を重ねたあと、自らの嘘を認め、自白し、大いに反省する（？）」までのやりとりが非常に面白い。
https://edition.cnn.com/2025/01/03/business/meta-ai-accounts-instagram-facebook/index.html
より辛辣で批判的な記事を読みたい方にはViceの記事がお勧め。特に、人間とAIの判別が難しくなる問題や、今後の展開に対する懸念について考えたい読者向けの内容。
https://www.vice.com/en/article/metas-ai-users-lead-to-backlash-confusion-and-ultimately-retraction/
以下のふたつは、詳しい経緯や事実確認を重視したい方向け。
https://petapixel.com/2025/01/06/meta-purge-ai-generated-facebook-and-instagram-accounts-amid-backlash/
https://www.404media.co/metas-ai-profiles-are-indistinguishable-from-terrible-spam-that-took-over-facebook/
