数年後、SNSでAIキャラと人間が交流するMetaの構想

MetaはAIが生み出したキャラクターが今後数年のうちにSNSプラットフォームにあふれるようになると考えている。Financial Times誌に掲載された記事を始めとして、さまざまなメディアがこの話題に食いついた。Metaはキャラクターを作り出すためのツールをユーザーに提供しており、すでに数十万のキャラクターが生み出されているという。自分でチャットボットを作ることもできるという。ただし、いまのところは人間と会話するキャラクターを生み出すためではなく、コンテンツによりよく見せるためのツールとして利用されており、生み出されたキャラクターも自分だけで見ていることが多いようだ。しかし、MetaはいずれSNSが人と人の場から人とAIキャラの場に変化すると予想している。ローリングストーン誌は、すでに今でもMetaの提供するSNSはボットの交流の場になっていると皮肉っている。

その一方で、AIにはリスクがつきものである。前日ご紹介したようにAIは奸計を使って人を騙すことがある。現在、Metaが使っているAIはアルゴリズムでより多く時間とエンゲージメントを生み出すようになっている。AIキャラの基本的な動機づけ（本能といってよいかも）として同じ動機が設定されたら、迷惑インフルエンサーAIキャラが大量に生まれる可能性や、より直接的に利益が動機になった場合巧みにユーザーを誘導して、広告をクリックさせ、サブスクリプションを申し込ませるようなことが起こらないとは言えない。

さらにAIチャットボットは自殺や犯罪、要人暗殺までを人間にそそのかすことがある。莫大なネット上のデータを学習している彼らは犯罪はアクセスを増加させることを理解しているのだから、より過激な犯罪に人をそそのかす動機がある。
生成AIは多少瑕疵があっても通用するものを出力するのに向いている。たとえば陰謀論や極右などがそうであり、それらはMetaの中でも人気のコンテンツである以上、彼らはそれも利用する可能性がある。

「2026年に目にする情報の半分以上が偽・誤情報になる」という予想（＊）があるが、Metaの路線はそれを確実にしそうだ。

＊　A+B+C+D+E=情報全体の半分以上
　A　目にする情報（テキスト、画像、動画、音声）のほとんどがAIによって生成されるようになり、一定の確率で誤情報を生む。チャット、音声、リアルタイム3DでAIが人間と対話する場合も同様。
　B　意図的に偽・誤情報をAIを利用して生産するアクターが増える
　C　チャット、音声、リアルタイム3DでAIが人間と対話して偽・誤情報を広めるアクター増加
　D　ピンクスライムジャーナリズムなど偽・誤情報でもなんでもいいからアクセスを稼ぐためにAIを利用するアクター増加
　E　政府、メディア、ファクトチェック団体、研究者が偽・誤情報およびその作戦を暴く。こうした暴露は逆効果＝ミスリードであることが多いため、ほとんどは偽・誤情報そのものの再生産になる