AIが創る法的証拠　米警察における報告書作成AIの導入

AIは社会のさまざまな領域に導入され、活用が進んでいる。それに合わせて業務の進め方や成果も変化している。AIは知的判断や分析を担い、人間はそれに従って肉体労働や情報収集を行うという役割分担を主客転倒した役割分担が定着しつつある。AIに使役される人間はその立場に慣れてくると、AIを自分にとって都合のよい判断や分析を行ってくれるように誘導しはじめるようだ。

The Guardianは2024年10月3日、「人工知能は、米国警察の報告書をどのように変えていくのか」と題された記事を掲載した。この記事は、法執行機関におけるAIの利用について多角的に興味深く掘り下げているのだが、なかなかの長さとなっている。ここでは掻い摘んで紹介したい。

カリフォルニア州にある複数の都市の警察署が、人工知能を搭載した報告書作成プログラムの運用（および試験運用）を開始した。この「Draft One」と呼ばれるプログラムは、ボディカメラやスタンガン、証拠管理用のシステムなど、法執行機関向けのサービスを提供しているテクノロジー企業「Axon」が開発したものだ。Draft Oneを利用すれば、警察官はより客観的に、より短時間で報告書を作成することができると同社は説明している。

Draft Oneの役割は次のとおりだ。まずボディカメラから得た音声を自動的にテキスト化する。そのテキストにAIを利用し、数分のうちに報告書の下書きを生成する。警察官は、自動生成された下書きを確認／編集することで、最終的な責任を負う。
（ちなみにDraft Oneの基礎となっているのはChatGPTと同じAIだが、そのデータはMicrosoftが開発した政府のクラウドサービスに保存される）

米国では現在、多くの警察署が人員不足に悩んでいる。警察官がペーパーワークの作業時間を短縮しつつ、より客観的かつ効率的に報告書を作成できるなら、そこには多くの期待が寄せられるだろう。実際、サンタクララ郡キャンベルの警察では、Draft Oneを試験的に使用した最初の1か月間で、警官たちの作業時間は計50時間ほど短縮されたという。またコロラド州フォートコリンズの警察署でもDraft Oneを使用したところ、平均23分かかっていた報告書の作成時間が平均8分まで短縮された。

しかし当然のように、Draft Oneのようなシステムの運用に懸念を示す専門家もいる。刑事司法制度において「人工知能」に過剰な役割を与えすぎているのではないか、という懸念だ。AI利用の報告書に関する法律評論の論文を初めて執筆した刑事法教授、Andrew Fergusonは次のように述べている。
「市民の人生を変える決定で、その書類が本当に中心的な役割を果たしているということを私たちは忘れている」
「警察の報告書は、実際に刑事司法制度の基礎となる。いつ、何が起こったのか、時にはその理由までも公式に記録するものだからだ」

そのような書類の下書きでAIを頼ることは、果たして安全なのか。そこに偏りや間違いが発生する可能性はないのか、という不安が生じるのは避けられないだろう。

そして「効率化」は必ずしも保障されるものではない。Draft Oneの効率化については先日、サウスカロライナ大学の研究者たちによる初の独立研究が『Journal of Experimental Criminology』に掲載された。その研究結果では、先に触れられたような「報告書作成の時間短縮」は裏付けられなかった。彼らは1年間にわたり、ニューハンプシャー州の警察署と共に比較試験を行ったが、「Draft One を使用した警官のほうが報告書を迅速に作成できた」という結果は得られなかった。

研究を指揮したIan Adams助教授は、その結果に「驚いた」と述べており、時間が短縮されなかった理由について「まだ結論づけることはできない」「現在も調査中である」と語った。また「ひとつの機関における、ある時点での、ひとつの結果に過ぎない」ので、それを過信しすぎないようにと忠告もしている。

このThe Guardianの記事は、他にもDraft Oneの利点や問題点について触れている。たとえばDraft Oneを使うようになった警官は、音声がテキストに書き起こされることを前提として、口頭で意識的に状況を説明したり、質問したりするようになる。そのため「自分が何をしているのか」「なぜ、それを質問しているのか」が双方にとってより明確になるという利点があるという。しかしACLU（米国自由人権協会）の調査結果によると、警察官がリアルタイムでナレーションを入れるという手法は、まさしく「証拠をあやつる」目的でも使用されている（たとえば容疑者が警官の指示に従っている状況であるにも関わらず、「抵抗するな」と叫ぶことで武力行使を正当化するなど）。
記事の全文はここで読むことができる。

ともあれ、警察側は人員不足の対策や作業の効率化を望んでいる。そしてDraft Oneほど広く利用されてはいないものの、競合他社も同様の「報告書作成プログラム」を提供している。一方で、その導入や運用は慎重であるべきという声が広がるのも当然だ。この問題については、AIの正確さや法的な影響も含め、今後も多くの検証と話し合いが行われることになるだろう。