AIの社会科学の必要性とその緊急性

インテリジェントなシステムは我々の周囲に急増しており、人間とは異なる言動、エラーやミスを起こすことがわかっている。金融取引で人間が予想もしなかった急激な下落を引き起こしたり、交通渋滞を招いたり、差別的な基準で採用の可否を決定し、犯罪捜査に偏見を持ち込む。これらは連鎖的な反応を呼ぶことさえある。ある領域のインテリジェントなシステムが人間の予想しなかった行動を取ったために、他の領域のインテリジェントなシステムがさらに予想もしない反応を起こすのだ。後付けでなぜそうなったかを分析することはできるが、中には起きてからでは遅い問題も存在する。

予防するためには、人間とインテリジェントなシステムが共存する社会を調査、研究することが必要になる。多くの人々はAIに大きな期待を寄せている。AIの果たす役割が増え、重要になればなるほど、彼らは社会の一部として人間と同等かときにはそれ以上のアクターになっているということだ。人間社会の社会科学から人間とインテリジェントシステムの社会の社会科学が必要になる。

こうした問題提起が研究者のハブであるLSE Impact Blogに投稿された。具体的な内容までは踏み込まれていないものの、考えなければならない問題だろう。別なアプローチとしてAIアライアメントがあるが、あくまでも人間がAIを使うという視点に立っている。しかし、インテリジェントで自律的なシステムは人間とは独立した判断をし、行動する。そもそも自分が作ったものなのに、その行動を制御することができないという時点で相手を自律的に判断、行動する存在として再定義しなければならないだろう。

多くの人は忘れてしまったようだが、AIは人間に与えられた目標に沿いながらも予想もしない進化を遂げることがある。象徴的だったのはフェイスブックの実験で当初英語で会話していたAIが、途中から独自の言語を生み出して会話をし始めた事件だ。現在、スマホには利用者のコミュニケーションをアシストするAIが搭載されつつある。やがて普及すればAIアシストしたコミュニケーションをAIが受け取って要約して利用者に伝えるようになる。その次に来るのは、AIに「やりたくないけど、気を悪くさせたくないんでうまく言っといて」と言えば、AIは独自の言語で相手のAIに趣旨を伝え、相手のAIはそれを人間の言語に翻訳して持ち主に伝えるようになる。コミュニケーションの実態が人間からAIに移る（この一連のやりとりで人間は自分の意思のみ提示し、コミュニケーションを行っているのはAI）。それがどのような世界をもたらすかはすでに小説などで描かれている。もちろん、現実は小説ほどドラマティックにはならないだろうが、より凄惨で悲劇的な事件を引き起こす可能性もある。