米FTC、AI取締強化の「Operation AI Comply」を発動し、5社に厳しい措置

米国連邦取引委員会（FTC）は9月25日、複数の企業に対し、AIに関連した有害な行為の取り締まりを強化すると発表した。この取り締まりは「Operation AI Comply」と呼ばれる新たな法執行活動の一環にあたる。

FTC委員長のLina M. Khanが述べているとおり、今回の措置は「AIツールを悪用して人々を欺いたり、誤解させたり、詐欺を働いたりすることは違法である（現行法にAIの適用除外はない）」ということを明確にするものだ。FTCのウェブサイトには、以下の5社に対して取られた具体的な措置が示されている。

厳しい措置の対象となった5社

・DoNotPay
DoNotPayは「世界初のロボット弁護士」を自称し、弁護士の専門知識に代わるサービスで法的な支援を提供できると宣伝していた。より具体的には「完璧に有効となる法的文書を瞬時に作成できる」などの主張をしていた。しかし実際には、その約束を果たすような効果的なサービスを提供していなかった。FTCは同社に19万3000ドルの支払いを求め、また「法律機能の限界」を消費者に通知することを義務付けた。

・Ascend Ecom
「AIを駆使した最先端のツール」でオンラインの店舗を開設すれば、毎月数千ドルの不労所得を迅速に獲得できる、という虚偽の主張を行っていた。簡単に言えば、オンラインビジネスの立ち上げを持ちかける詐欺だ。訴状によると、この詐欺スキームは2021年以降さまざまな名称で運営され、消費者から少なくとも2500万ドルを詐取してきた。

・Ecommerce Empire Builders（EEB）
2,000ドル弱の高額なトレーニングプログラムや、数万ドルの「すでに出来上がっているオンライン店舗」を購入することで、消費者が「AI搭載のEコマース帝国」を築けるよう支援すると騙っていた。FTCの告訴状によると、このサービスは「数百万ドルを稼げる」「毎月1万ドルを稼げる」と宣伝していたが、そのような利益は実現しておらず、実際には店舗を購入した消費者から最大3万5000ドルの資金を得て私腹を肥やしてきたという。

・FBA Machine
「AI搭載のソフトウェアを利用したオンライン店舗で、保証された収入が得られる」という約束をしながら、実現されることはほとんど（あるいは全く）ないという詐欺的な主張で、消費者から1590万ドル以上を騙し取っていた。こちらもAscend EcomやEEBと同様にビジネスチャンスを持ちかける詐欺だ。このスキームは2021年から運営されていたが、消費者が払い戻しを求めたり訴訟を起こしたりしたため、2023年以降は「FBAマシン」として再ブランド化した。FBAマシンは「AI搭載」のツールを使用してストア内の商品の価格を設定するため「リスクフリー」で「7桁のビジネス」を運営できると約束されていた。

Ascend Ecom、EEB、FBA Machineの三社に対してはスキームの一時停止が命じられ、また管財人の管理下に置く命令が下された。

・Rytr
2021年4月以来、さまざまな用途に向けたAIの文章生成サービスを販売してきたが、その用途のひとつに「体験談やレビューの作成」があった。有料ユーザーは、非常に限定的、かつ一般的な内容を入力するだけで、詳細な「消費者によるレビュー」を無制限に生成することができた。FTCの訴状によれば、多くの場合、ユーザーがAIで生成したレビューには、潜在的な消費者を欺くような情報が含まれていた。Rytrの（少なくとも一部の）ユーザーは、このサービスを利用して数百件〜数万件のレビュー（虚偽の情報が含まれかねないもの）を生成しており、それは連邦取引委員会法に違反する行為だとFTCは主張している。
つまり上記の4社が「AIを駆使した良質なサービスを提供する」と宣伝する詐欺的な／不正な活動に関わっていたのに対し、Rytrは「AIを利用したサービスの利用者に大量の違反行為を行わせた責任」が問われたということになる（そのためもあってか、FTCの中でも行政命令の発行に対する意見は割れた）。FTCは、同社がユーザーに対して「違法行為を目的としたサービスの利用を禁じる」ための提案命令を提出した。

本日発表された「Operation AI Comply」の取り締まりは、AIに関する昨今のFTC訴訟を基盤としたものだった。それらの事例として、FTCは複数のサービス名を具体的に挙げている。そのほとんどは「AI技術を駆使して、夢のようなサービスを提供する」という虚偽の（あるいは不正確な／詐欺的な）約束をして消費者を欺いた事例だ。AIのイメージを強く押し出した誇大広告に飛びついてしまう消費者が、それだけ多い（そして彼らが騙されやすい）という実情が表れているのかもしれない。