ChatGPTに提携先へのリンクを張らせるのはOpenAIにも無理だった

Nieman Labに2024年6月27日に掲載された記事によると、ChatGPTは、提携関係のあるメディアへのリンクにさえ失敗している。
ChatGPTを開発したOpenAIは、過去一年間で複数の大手ニュースメディア企業とライセンス契約を結んできた。多くの場合、ChatGPは各メディアの報道内容を要約し、元のメディアのウェブサイトへリンクを貼ることになっている。しかしNiemanのアンドリュー・デック氏によると、ChatGPTは少なくとも10社の提携先メディアへリンクをする際、実際の記事のページではなく、存在していないページのURL（404エラーになる）へユーザーを誘導していた。

氏の調査によれば、ChatGPTはAP通信、The Wall Street Journal、The Financial Times、The Times (英国)、Le Monde、El País、The Atlantic、The Verge、Vox、Politicoの記事全文へのリンクとして、たびたび誤ったURLを生成していた。つまり出典（あるいは引用元）の表示に失敗している。

さらに氏は「ピューリッツァー賞を受賞した記事」「長年にわたる調査を報告した記事」へのリンクをChatGPTに繰り返し求めた。その結果「提携出版社の最も注目すべき内容の記事にさえ、確実にリンクを張ることができていなかった」という。「このような記事の作成は多大な労力がかかる仕事で、メディアのブランドが高く評価されるための投資だ」とデック氏は説明している。

出典を明らかにできないまま（リンクに失敗したまま）、その膨大な投資の結果だけを利用するのは問題があるだろう。しかも出典元が提携先ということになれば、その誠意も問われる。

OpenAIとライセンス契約を結んだメディアのほとんどは、ChatGPTがユーザーのクエリに回答する際に「出典が明らかにされること」「記事全文へのリンクが含まれること」を前提として契約の発表を行なってきた。しかしOpenAIの広報担当者ケイラ・ウッド氏は「提携各社と協力しあい、チャットと最新のニュースの融合が体験できる新しい機能を構築している。ライセンス契約で約束していた引用の機能はまだChatGPTでは実現していない」と語っている。デック氏は「存在しないページへのリンクが生成されていること」について尋ねたが回答は拒否された。また「その『新しい機能』が偽URLの問題にどのように対処するのか」についても説明は得られなかった。

デック氏は今回の記事で、OpenAIの提携先となる10のメディアの記事をChatGPTがどのように扱っているのか詳しく調査し、またChatGPTがURL生成を生成する仕組みなどについても技術的に考察した。しかしChatGPTが「出典元として存在しないページにリンクすること」そのものは既知の問題だった（いまだに対処されていない問題とも言える）。

提携先メディアのジャーナリストたちの多くは、すでに検索ツールとしてのChatGPTの可能性について懐疑的な見解を公表している。The Atlanticは先日、ChatGPTがThe Atlanticの記事へリンクする機能に問題があることを、The Atlantic内の記事で報じた。

今年5月、The Atlantic Unionは雇用主に対し、OpenAIとの契約の透明性を求める公開書簡を発表している。「こうした『存在しないリンクの問題』は深刻に懸念されるものだ。我々がOpenAIとの契約に疑問を呈した理由がここに示されている」「ジャーナリズムの誠実さと『The Atlantic』の伝統を守るため、我が社は我々と協力しなければならない」と同労組の編集交渉委員会メンバーのデビッド・A・グラハム氏は述べている。

生成AIが重度の薬物中毒者のように始終幻覚を見ていることは広く知られつつある憂慮すべき事実だが、生成AIブームの火付け役であるopenAIのChatGPTでもリンクをまともに貼れないというのは驚くべきことだ。
もちろん、生成AIは人間の生産性をあげてくれているだろうことは承知している。しかし、いかに生産性があがっても、高い確率で誤りが含まれるとしたら問題だ。
リンクの貼り違いくらいたいしたことではないと思うかもしれない。しかし、わかりやすいミスだからすぐに気がついただけだ。すぐにわからないようなもっと深刻なミスが無数に存在していることをこの事件は暗示している。