bioshokの最新AI事情 2026年5月30日～6月5日　フロンティアAI規制の枠組みが一斉に動き出す

偏執的に世界中のAI情報を収集・発信するbioshokの週刊連載。この1週間にピックアップした主要ニュースをまとめて紹介。

【要約】

Anthropic ── 「AI開発の減速・停止が世界にとって有益」と明記ｖ
今週最も重い発信はAnthropicの記事だ。ClaudeがAI研究のうちコーディング部分を明確に加速させていることを認めた上で、3つのシナリオを提示した。停滞、生産性向上、そして再帰的自己改善（RSI）だ。知能爆発が明確に起こるには研究の嗜好性や判断力が人間レベルに達する必要があり、その点はまだ曖昧としつつも、3つ目のシナリオが実現した場合には制御不能になる可能性を正面から認めている。そしてAnthropicはAI開発の減速もしくは停止が世界にとって有益になりうると明確に書いた。フロンティアAI企業自身がこの選択肢を文書化したことの重みは大きい。固定計算資源上での知能爆発が起こるかどうかは合理主義コミュニティ内でも議論が分かれており（Mechanize/EpochAIはスローテイクオフ寄り、AI2027はファストテイクオフ寄り）、決着はついていないが、AIの進歩がMythosのサイバー能力で止まる話ではない可能性が高い。

米連邦議会 ── 超党派のフロンティアAI規制法案
共和党オーバーノールティ議員と民主党トレーハン議員が、成立すれば米連邦レベルで初の本格的なフロンティアAI規制枠組みとなる法案を準備している。主な内容は、AI開発に関する州法の3年間凍結（連邦法優先）、1026 FLOPs以上のモデルをフロンティアモデルと定義、「壊滅的リスク」（死者50人超または10億ドル超の損害、CBRN兵器・制御喪失を含む）の明記、CAISI（米AI安全研究所）の強化と年間1億ドルの予算、フロンティア企業への年2回の第三者監査義務化、内部告発者保護、AIによる大量解雇時の事前開示義務などだ。ただし監査不合格でもモデル公開を直接止める事前承認制ではない。法令違反には1違反あたり最大100万ドルの民事罰が科される。この法案はOpenAIが先日公開した政策青写真とほぼ一致する内容となっている。

トランプ政権 ── 新AI大統領令
トランプ政権が新たなAI大統領令を発令。政府が先端AIモデルの高度なサイバー能力を機密ベンチマークで評価し、一定以上の能力を持つモデルを「covered frontier model」として扱う。企業は任意で公開前最大30日間のモデルアクセスを政府に提供できる。義務的ライセンス制や事前承認制ではないと明記されているが、6か月前のトランプ政権からはかなり想像しにくかった内容だ。なお、CAISIの現在の運営予算はわずか1,500万ドルで、全任務遂行には年間少なくとも8,400万ドルが必要とされている。F-35A戦闘機1機分の費用で今世紀最重要の戦略技術の状況認識能力が得られるという指摘は示唆的だ。

OpenAI ── 民主的ガバナンス提言とバイオ防衛
OpenAIが「フロンティアAIの民主的ガバナンス」政策提言を公開した。AGI・RSI・サイバー/バイオ/制御喪失リスクに対して企業の自主規制だけでは不十分とし、州法の連邦フレームワークへの統合、CAISIの中核AI安全機関への強化（RSI評価を強調）、政府全体でのAIレジリエンス戦略構築の3本柱を提案。OpenAI自身が「開発速度や安全策を企業だけで決めるべきではなく、民主的プロセスで決めるべき」と明言した。RSI＝AIがAI開発を加速する現象を今後10年の最重要ガバナンス課題として扱っている点が重要だ。

併せてOpenAI Foundationが「AIレジリエンス」ビジョンを公開。アライメントだけでなく、経済・生物・サイバー・安全性を含むエコシステム全体のリスク低減を目指す。またGPT-Rosalindを活用したバイオディフェンスプログラムも正式に始動し、疫学モデリング、早期発見、公衆衛生対策の支援を「信頼できる開発者」に提供。米国政府機関および同盟国パートナー向けにアクセスを拡大中だ。

OpenAIはPACや候補者への献金を行っていないと声明を出し、反規制・AI加速寄りの外部政治団体「Leading the Future」はOpenAIを代表しないと明確に距離を置いた。

バイオセキュリティ ── 業界横断の署名
サム・アルトマン、ダリオ・アモデイ、デミス・ハサビスを含む多くの専門家が、合成核酸とその製造機器の発注スクリーニング・記録の義務化を議会に求める書簡に署名した。単一配列では脅威でなくても複数配列を別々に注文される場合のトレーサビリティ確保が焦点で、安全性に対する立場を超えた規制の一致点を示している。

治安・社会的緊張
米国の法執行・情報機関が、AIデータセンター反対運動や反AI的言説を「反技術過激主義」という新しい治安カテゴリで監視し始めている。NYPD（ニューヨーク市警察）の情報分析レポートでは、AI 2027が予測する近未来の急進展、雇用喪失、米中対立、Rogue AIなどが大規模抗議や反テック暴力につながる可能性が分析されている。

予測の上方修正
スーパーフォーキャスター（超予測者）と専門家がこの9か月でAIが2040年までにもたらす変化の予測を上方修正した。特にスーパーフォーキャスターは「10年に一度の技術変化」から「100年に一度の技術変化」が最も尤もらしいと見方を変えている。

その他
アルゼンチン政府がAIエージェントやロボットで運営される会社を法的に認める法案を準備中。

――――

全体として、Anthropicが「開発の減速・停止」の選択肢を明文化し、米連邦議会で超党派のフロンティアAI規制法案が準備され、トランプ政権が機密ベンチマークでのモデル評価を大統領令に盛り込み、OpenAIが民主的ガバナンスとRSI評価の必要性を自ら訴えるという、数か月前には想像できなかった収斂が一斉に起きた一週間でした。AIの再帰的自己改善が政策議論の中心に据えられ始めたことは、AGIを前提としたガバナンスが理論から実装の段階に移行しつつあることを示しています。

【詳細】

• アンソロピックのこれは人類にとってとてつもなく重要な話。全員読むべき。一言でいえばClaudeはAI研究のうちコーディング部分を明確に加速させている。知能爆発が明確に起こるためには研究の嗜好性や判断力についても人間レベルにならなくてはならないがそこについてはまだ曖昧。だがもしこの記事で挙げられてるシナリオの3つ目（1つ目は停滞、2つ目は生産性向上、3つ目は再帰的自己改善）のシナリオが現実になった場合、制御不能になるかもしれない。邦訳も出たユドコウスキー本のようなシナリオになる可能性も全然ある。この記事でアンソロピックはAI開発の減速もしくは停止をする選択肢が世界にとって有益だと明確に書いている。人類史の最後かもしれないこの節目のこの主張は重い。まだ固定計算資源の上での知能爆発が起こるかどうか？は合理主義コミュニティやEAの中でも議論が分かれている（Mechanize/EpochAIはスローテイクオフ寄り、AI2027はファストテイクオフ寄り）。しかし、これはスローテイクオフファストテイクオフ寄り関係なく、AIの進歩はサイバー攻撃のMythosで止まる話ではない可能性が高く、人類の未来という観点でAI技術を見る必要を感じる。
  取り敢えず知らない人はForethoughtという研究機関の記事はお勧めできる。多くの人がAGIピルを飲まないと手遅れになるかもしれない。
  https://x.com/i/status/2062590932407689406
• AIの急速な進歩でバイオセキュリティ上のリスクが高まる中、OpenAIはAIを「防御側」に使わせ、社会のバイオレジリエンスを高めるべきだという行動計画発表。
  https://x.com/i/status/2062666278326997135
• 共和党のオーバーノールティ下院議員と民主党のトレーハン下院議員が法案を準備！成立すれば米連邦レベルで初めて本格的なフロンティアAI規制枠組みとなる。OpenAIが先日公開した青写真と殆ど一致する内容。
  ・州法の先制（Preemption）：
  AI開発に関する州法を3年間凍結（連邦法が優先）。ただし展開・利用に関する州法は対象外。
  
  ・フロンティアモデル定義：
  訓練に10²⁶ FLOPs以上使用したモデル（開発企業は年間売上5,000万ドル超）。
  安全基準：「壊滅的リスク」＝死者・重傷者50人超 or 10億ドル以上の損害（CBRN兵器や制御喪失も明記）
  「重大安全インシデント」＝重み（weights）の改ざん・流出、リスク対策の失敗、制御喪失など
  
  ・CAISI（米AI安全研究所）の強化：
  独立検証機関（IVO）のライセンス発行・管理
  年間1億ドルの予算
  フロンティア企業に年2回の第三者監査を義務付け（安全対策の妥当性も含むが監査で不合格でもリリースを止めることはできないと思われる）。
  重大安全インシデントは通常15日以内にCAISI側へ報告、死傷の差し迫ったリスクがある場合は24時間以内に管轄法執行機関へ報告。
  
  ・その他の主な条項：
  透明性報告義務（SB 315に近い内容）
  内部展開（internal deployment）も監査対象
  内部告発者保護
  AIによる大量解雇時の事前開示義務
  AI人材・労働市場調査、R&D推進、国際標準策定など（後半の100ページ以上）
  
  ・法令違反があった場合:
  開発者は1違反あたり最大100万ドル、継続1日ごとに別違反の民事罰の対象となる。連邦司法長官およびオプトイン済み州司法長官は、民事罰と法令遵守を確保する差止めを求められる。
  ただし、監査不合格だけでCAISI/IVOが直接モデル公開を止める事前承認制ではない。
  https://x.com/i/status/2062572875803156808

• アルゼンチン政府がAIエージェントやロボットで運営される会社を法的に認める方向の法案を出している。
  https://x.com/i/status/2062622649868845380
• サム・アルトマン、ダリオ・アモデイ、デミス・ハサビス含む多くの専門家（安全性の立場関係なく規制一致）が合成核酸とその製造に必要な機器の発注のスクリーニングと記録（単一の配列では脅威ではなくても複数の配列を別々に注文される場合のトレーサビリティ確保）を義務化するよう議会に求める書簡に署名。
  https://x.com/i/status/2062396562400260259
• トランプ政権が新AI大統領令を発令
  ・政府が先端AIモデルの「高度なサイバー能力」を機密ベンチマークで評価することになる
  ・一定以上の能力を持つモデルは“covered frontier model” とされる
  ・企業は任意で、公開前の最大30日間、政府にモデルアクセスを提供できる
  ・ただし義務的ライセンス制や事前承認制ではないと明記
  今はまだ義務ではないが、トランプ政権の6か月前ならかなり想像しにくかった内容
  https://x.com/i/status/2061860002630091094
• CAISIの現在の運営予算はわずか1,500万ドル。CAISIは、AI準備態勢に関するAI行動計画のすべての任務を遂行するために、年間少なくとも8,400万ドルを必要としている。言い換えれば、F-35A統合打撃戦闘機1機分の費用で、米国政府は今世紀で最も重要な戦略的技術に関する状況認識能力を獲得できる。
  https://x.com/i/status/2062433742069916029
• スーパーファアキャスター（超予測者）と専門家はこの9カ月でAIが2040年までにもたらす変化を上方修正。特にスーパーファアキャスターは10年に一度の技術変化から、100年に一度の技術変化が尤もらしいと意見を変更している。
  https://x.com/i/status/2062411380951846931
• OpenAIが「フロンティアAIの民主的ガバナンス」政策提言を公開。AGI・RSI（再帰的自己改善）・サイバー/バイオ/制御喪失リスクに対して、企業の自主規制だけでは不十分というもの
  提案の柱は大きく3つ。
  提案は3つ。
  ① 州法の流れを連邦フレームワークに統合
  ② CAISIを米国の中核AI安全機関に強化（再帰的自己改善の評価を強調）
  ③ 政府全体でAIレジリエンス戦略を構築
  特に重要なのは、RSI＝AIがAI開発を加速する現象を、今後10年の最重要ガバナンス課題になりうるものとして扱っている点。
  OpenAI自身が「開発速度や安全策を企業だけで決めるべきではなく、民主的プロセスで決めるべき」と明言している。
  https://x.com/i/status/2062231991068889275
• 米国の法執行・情報機関が、AIデータセンター反対運動や反AI／反テック的な言説を「反技術過激主義」という新しい治安カテゴリで監視し始めている。NYPDの情報分析レポートでAI 2027が予測する近未来AIの急進展、雇用喪失、米中対立、台湾侵攻可能性、Rogue AI、政府や企業への不信などが、大規模抗議や治安不安、反テック暴力につながる可能性があるという警察向け分析をしている。
  https://x.com/i/status/2062119780073754781
• OpenAIFoundationは「AIレジリエンス」と呼ぶビジョンを公開。AIアライメントだけではなく、AIのエコシステム全体（経済、生物、サイバー、安全性）含めて全体のリスクを低減する試み。AI安全性、ガバナンスという言葉では捉えきれないシステミックな射程まで見えるため。
  https://x.com/i/status/2061631675961094642
• OpenAIがPACや候補者に献金していない。Greg Brockman夫妻などの政治献金は個人活動であり、AI業界で反規制、AI加速寄りのLeading the Future（LTF）などの外部政治団体はOpenAIを代表しないと声明。LTFは2025年8月に、Andreessen Horowitz、Greg and Anna Brockman、Joe Lonsdale、Perplexityなどを支援者として、1億ドル超の初期資金コミットメントを掲げて立ち上がっている。
  OpenAIは、自分たちは「思慮深い規制」「強力なAIシステムの厳格なテスト」「強い安全基準」「公的説明責任」「AIの便益への広いアクセス」を支持するとまとめている。
  https://x.com/i/status/2061624879536099717
• OpenAIが生物兵器対策プログラム開始。
  ・今回のニュースの焦点は、 OpenAIの新しいRosalindバイオディフェンスプログラムが、生命科学研究向けのGPT-Rosalindモデルを、バイオディフェンスツールを実用化する「信頼できる開発者」に提供するという点。
  ・同社は、このツールへのアクセスを後援し、疫学モデリング、早期発見、スクリーニング、準備、非医薬品介入、その他の公衆衛生活動のための導入支援を提供する。
  ・OpenAIは、生物学的脅威のライフサイクル全体にわたる組織を支援していると述べており、「予防と早期発見から、社会の回復力と医療対策の開発まで」を網羅している。
  ・OpenAIは、ホワイトハウスと複数の連邦機関に自社のアプローチについて説明を行い、公衆衛生に重点を置く連邦機関との連携を進めていると述べた。
  ・同社はまた、公衆衛生および生物兵器対策任務を支援するため、一部の米国政府機関および同盟国パートナー向けにGPT-Rosalindへのアクセスを拡大している。
  https://x.com/i/status/2060350555344806118