AIの擬人化を防ぐための「言い換え案」とは

「AIエージェントという言葉は間違っている」

PUSM（Probabilistic Unverified Software Manipulator）という言葉をご存じだろうか。おそらく、知っている方はほとんどいないだろう。これは先日、言語学者のEmily M. Bender氏と、コペンハーゲンIT大のNanna Inie氏が発表したばかりの略称だ。直訳すると「確率に基づいた、検証を行わないソフトウェア操作ツール」となる。

Bender氏とInie氏は、その言葉を「AIエージェント」という言葉の代わりに使おうと提案している。なぜ彼女たちは、わざわざそのような言い換えを望んでいるのか。それは「AIエージェントという言葉自体が間違いである（嘘である）」と主張しているからだ。

私たちは普段、「チャットボットが回答した」「Copilotにコードを書いてもらった」「ChatGPTにデタラメなことを教えられた」などといった表現を当たり前のように使っている。しかしBender氏は何年も前から、このような表現を避けるべきだと訴えてきた。今回は、私たちが日常的に利用している「AI関連の言葉」の問題点を指摘してきた二人の専門家の論説を紹介したい。

これまでのBender氏が何を訴えてきたのか

Bender氏とInie氏は2026年6月25日、自身が運営しているニュースレターに「How to talk about ‘AI’ without adding to the anthropomorphization（直訳：『AI』について擬人化を助長せずに語るには）」というタイトルの記事を掲載した。その内容を紹介する前に、まずは業界の著名人Bender氏の経歴と、この記事が書かれた背景を説明しなければならないだろう。

・「確率的オウム」のインパクト
米ワシントン大の教授でもある言語学者のEmily M. Bender氏は、AIにまつわる議論の分野で注目されている研究者の一人だ。2023年にはTIME誌の「AI業界で最も影響力のある100人」にも選出されている。彼女を一躍有名にしたのは、2021年に発表された論文『On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?（直訳：確率的なオウムの危険性：言語モデルは大きくなりすぎる可能性があるか？）』だった。これは4人の専門家によって記された論文で、Bender氏は筆頭著者である。

それはAI業界批判の金字塔のような論文なので、内容を雑に紹介するのはリスキーなのだが、それでも無謀にまとめると次のようになるだろう。
「言語モデルは環境負荷、検証できない巨大なデータ、労働搾取など多くの問題を抱えているのに、それらが可視化されぬまま急速に社会へ浸透し、急速に拡大している」
さらに突き詰めるなら「AIモデルの構築には社会的、倫理的な視点の検証も不可欠であるのに、現状ではそれらが蔑ろにされたまま市場が巨大化してしまった、その責任は誰が取るのか」という主張とも言えるだろう。つまり、ここで指摘されているのはAIやLLMの有害性ではなく、それを構築する人間側の問題だ¹。

この論文は現在でもAI倫理の研究に欠かせない文献と見なされている一方で、当然ながら業界での評価は両極端に分かれている。ちなみに4人の執筆者の一人であるTimnit Gebru氏は当時、GoogleのAI倫理チーム（Ethical AI Team）の技術共同責任者だったが、この論文を発表したため同社を追われたという有名なエピソードがある²。

それから4年後の2025年、Bender氏は社会学者Alex Hanna氏との共著による書物『The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want（AI詐欺：巨大テクノロジー企業の誇大宣伝と戦って、我々の望む未来を創造するには）』を出版した。この本は、いわゆる「AI hype（AIに対する過剰な期待）」と、それを生み出す誇大宣伝を指摘したもので、「利益のために詐欺のような誇大宣伝を仕掛け、AIブーム（あるいはAIバブル）を意図的に引き起こすテクノロジー企業」を批判した内容である。こうしたニッチなジャンルの本としては珍しく、彼女たちの本は一般のメディアでも取り上げられた。レビューの多くは称賛のコメントだが、もちろん酷評も寄せられている。

このような活動をしているBender氏を「反AI」の第一人者のように捉える人もいる。しかし彼女は「AIは危険だ」と説いている立場ではない。むしろ逆と言って良いだろう。Bender氏は一貫して「AIは世間で考えられているほど恐ろしくも知的でもないのに、実際より『すごいものだ』『とんでもないものだ』と思わせることで、テクノロジー企業に都合のよい議論が行われている、それが問題なのだ」という立場を示している。

先述の書物『The AI Con:～』の中には、「AIは世界を乗っ取るのか？」「AIは意識を持つ人工生命体を生み出したのか？」「AIは人間のあらゆる職を奪いつくすのか？」という問いかけが出てくる。これに対し、著者は「そのようであってほしいのだろう」「LOL（笑）」「絶対にない」とはっきり返答している。

記事の背景（2026年1月の記事）

そんなBender氏がInie氏とともに先日発表した記事は、二人が2026年1月7日のTech Policy Pressに寄稿した記事の「続き」のような位置づけになっている。まずはPolicy Pressに掲載された記事『We Need to Talk About How We Talk About ‘AI’（直訳：私たちは「AI」について語る方法を見直す必要がある）』の内容から説明したい。

この記事のテーマは明快だ。一言で表すなら「AIを擬人化するべきではない」となる。彼女たちの言う擬人化とは何か？　それは記事の冒頭に示されている。

・「AI」はあなたの友達ではない。賢い家庭教師でも、共感してくれる聞き手でも、親切なアシスタントでもない。それは事実を「創作する」ことも、「間違いを犯す」こともできない。実際には、あなたの質問に「答える」ことさえしていない。

つまり私たちが日常的に使う「AIが回答する」「AIが間違える」などの表現は擬人化されたもので、それは誤りであるという指摘だ。このような擬人化の表現が使われることで、「ただ確率を頼りにした自動化のシステムと、人間の認知とは根本的に異なっている」という重要な事実が覆い隠されてしまうのだと彼女たちは主張している。

・「AI」の技術を販売する人々や企業は、自社のシステムを人間であるかのように描いた言葉、つまり「推論能力（reasoning capabilities）」「幻覚を見る（hallucinating）」そして人工「知能（intelligence）」などの言葉を日常的に使っている。

・メディアは、これらのシステムについて議論する際の枠組み、ひいては議論で使われる用語に至るまで、ほとんど彼ら（販売する側）に主導権を握らせてきた。しかし一般的に「知能」と結びつけられるようなタスクを遂行したからといって、システムが「知能を持っている」ということにはならない。

・人々が「そのシステムをどのように認識するか」という点において、擬人化された言葉づかいは多くの方面に影響を及ぼす。擬人化の言語は、複数のレベルで人々の認識に影響を与え、期待を下回る可能性の高いシステムを過剰に宣伝し、開発企業側の責任を曖昧にし、過度の信頼や依存、非人間化を助長する。

この記事は「擬人化によって人々がAIを過大評価してしまう問題」以外に、もう一つの重要な問題を指摘している。それは「あたかもシステムが『主体』であるかのような表現で、主導権を握らせてしまうこと」だ。ここでは例として「ChatGPTは学生を支援します」「このモデルはリアルな動画を作成します」「AIシステムは年々、より多くの処理能力を必要としています」などの表現が挙げられている。これらは「システムを構築する人々、そして利用する人々の行動や責任を曖昧にする原因になる」と彼女たちは指摘している。言われてみれば確かに、これらの表現では、実際に行動した人間の存在が完全に消されている。

さらに彼女たちは「『AI（人工知能）』という用語自体、大きな問題を孕んでいるかもしれない」とも考えている。それは「意思決定支援システム」「高度な統計モデル」「機械学習」などの言葉と比較したとき、より高度な能力を連想させる傾向があるからだ。

二人が提示した「具体的な言い換え」

そして二人は2026年6月25日、自身が運営しているニュースレターで具体的な言い換え案を掲載した。ここでは一部を掲載したい。

・Artificial Intelligence（人工知能）
　→Probabilistic Automation（確率に基づいた自動化システム）
・image recognition（画像認識）
　→image labeling（画像のラベリング）
・speech recognition（音声認識）
　→automatic transcription（自動文字起こし）
・hallucination（ハルシネーション／幻覚）
　→undesirable output（望ましくない出力、残念な出力）
・prompt（プロンプト）
　→text input（テキスト入力）
・answer（回答）
　→output（出力）
・chatbot/conversational agent（チャットボット／対話エージェント）
　→conversation simulator（対話シミュレーター）

こうした語句の言い換えだけでなく、表現の細かい改善案も示されている。たとえば「そのモデルが間違える（mistakes）」ではなく「そのモデルがエラーを出す（errors）」、「チャットボットは〇〇が得意（good at…）」ではなく「チャットボットは〇〇に適している（good for…）」などだ。

また機械に主体性があるかのような言い回しは、「しばしば人間の関心や最終目的を曖昧にする傾向がある。主体性を人間に求めるように修正するか、主体性を強調しない動詞を選ぶことを勧める」として、以下のような言い換え例が示されている。。

・ChatGPTが学生を支援した→ 学生がChatGPTを使用した

そして「感情」という項目には以下のように記されている。
「ここでは具体的な言い換えを提案しない。コンピュータの感情の状態に関しては『それらに感情がないという明白な事実を再確認する』以外の正しい語りかたがないからだ」。要するに二人は「ChatGPTが困っている」のような表現への代替案を提示していない。「ChatGPTは困らない」のが明白であり、他に正解はないから、ということだ。

私たちは「言い換え」に乗れるか？

誤解のないように書いておきたいのだが、二人は言い換えの押し付けをしているわけではない。「AIの話をするなら、これが正しい語彙だ」と訴えているわけでもない。これは「いま多くの人が当たり前のように使っている用語や言葉づかいは不正確であり、詐欺的な誇大宣伝に乗せられたものである。それは多くの悪影響を与えてしまう」という訴えだ。そして二人は、自分たちが紹介した具体例を最良だとも考えておらず、「各自が試行錯誤してほしい」とも記している。

Bender氏とInie氏は、AIをAIと呼ぶユーザーに苦言を呈しているわけではない。また「こうした話しかたは、すでに深く根付いてしまった」「会話や執筆に新しい習慣を取り入れるのは、労力がかかる」とも記している。一般の人々が現状を切り崩して「言い換え」をするのは非常に難しいと承知のうえで、それでもあえて適切な言葉が使われることを望んでいる。

正直なところ、まったく勝ち目のない戦いだと感じる人は多いだろう。いまさら「確率に基づいた自動化のシステム」などといった言葉が「AI」のかわりに使われるとは考えがたいからだ。実際のところ、この「言い換え案」を記事にしている大手メディアはひとつも見つけられなかった（2026年7月12日現在）。いまのところ、彼女たちの主張を取り上げているのはテクノロジー系の個人ブログやポッドキャストなどだ。その事実からも、二人の挑戦がいかに困難であるのかが伺える。

しかし彼女たちの真の目的のひとつは、おそらく読者に「そもそもAIとは何なのか」をはっきりと認識させること、そして広く用いられている言葉のおかしさに気付かせること、あるいは、それについて議論させることなのではないだろうか。この記事の中には、次のような説明がある。

『こうした言い換えの中には、少々ぎこちなく感じられるものや、長くなるものもある。つまり使いこなすには少し工夫を要するが、それは必ずしも悪いことではない。私たちは、自分が使っている（あるいは自分が議論している）テクノロジーについて、それが実際に何をしているのかについて、立ち止まって考えるべきだ』

とはいえ彼女たちは、問題を提起するために皮肉や冗談で言い換え案を並べたのではない。いたって真剣である。その提唱は、いささかドン・キホーテ的にも感じらてしまうのだが、ひょっとすると「座して死を待つよりは」の心構えで、少しでも多くの人から賛同されることに期待しているのかもしれない。この記事の最後は、次のような前向きな文章で締められている。

『これはまるで言語や文化の流れに逆らって泳いでいるようなもので、少々の気まずさを感じる機会もあるかもしれない。しかし、それ自体がやりがいのあることでもあるだろう。エミリー（Bender氏）は1月の講演で、ある学生から次のように尋ねられた。
「友人と会話するとき、どうすれば頑固者にならないまま（without being a stick in the mud）『AI』への抵抗に貢献できるでしょうか？」
　そのときエミリーは、こう答えた。
「頑固者になれ（Be a stick in the mud）！　もしも、いま私たちが泥に足を取られて歩きにくい状況なのだと考えているなら、あなたがそこに一本の棒を突き刺せば、他の人も一緒に歩めるような固い足場を築きはじめることができる』

脚注

1. この論文のタイトルに使われた「確率的オウム」という言葉は、一部で大きな反発も呼んだ。「これはLMMを『言葉の意味も理解しないまま、ただ確率まかせに言葉を返しているだけ』と揶揄するための侮蔑的な表現だ」と主張する人もいた。なにしろインパクトの強すぎる言い回しだったためか、この「確率的オウム」という言葉は4人の論文を離れたところでも（たとえば4人とは何も関係のないLMM関連のニュースのタイトルなどで）使われるようになり、また一部では「AIを卑下する言葉」として用いられることもあった。この件についてBender氏は「私たちが意図した用法とは異なっている」「私たちはAIを批判していない。あくまでも人間を批判したのだ」と明言している。
   
   ↩︎
2. …Gebru氏が「Googleを解雇された」と主張している一方、Googleは「Gebru氏の辞任を受理しただけ」だと主張している。経緯の詳細はともあれ、この論文を巡ってGebru氏とGoogleの間に対立関係が生まれたことだけは間違いないようだ。
   ちなみに4人の著者の一人Margaret Mitchell氏も、Gebru氏と同じGoogleの倫理チームを率いるメンバーだった。彼女は論文の著者名に「Shmargaret Shmitchell」という偽名を使っており（本当に隠す気があったのか疑いたくなる偽名だが）、これはGoogleから本名の使用を止められたためと言われている。しかし結局はMitchell氏も、Gebru氏が去った数か月後に「社内規定違反」でGoogleを解雇された。この解雇は、Mitchell氏が「GoogleがGebru氏をどのように扱ったのか」を調べるため、Googleの社内メールを検索したことが原因だったとも伝えられている。
   ↩︎

引用元URL、参照URL

How to talk about AI without adding to the anthropomorphization • Buttondown
https://buttondown.com/maiht3k/archive/how-to-talk-about-ai-without-adding-to-the/

We Need to Talk About How We Talk About ‘AI’ _ TechPolicy.Press
https://www.techpolicy.press/we-need-to-talk-about-how-we-talk-about-ai/

On the Dangers of Stochastic Parrots _ Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency
https://dl.acm.org/doi/10.1145/3442188.3445922

THE AI CON – How to Fight Big Tech’s Hype and Create the Future We Want
https://thecon.ai/

Stochastic parrot – Wikipedia
https://en.wikipedia.org/wiki/Stochastic_parrot

Margaret Mitchell_ Google fires AI ethics founder（BBC）
https://www.bbc.com/news/technology-56135817