bioshokの最新AI事情 2026年5月9日～5月15日

偏執的に世界中のAI情報を収集・発信するbioshokの週刊連載。この1週間にピックアップした主要ニュースをまとめて紹介。

【要約】

米中AI協調 ── 歴史的転換点
今週最も大きな動きは米中間のAI協議の具体化だ。トランプ大統領と習近平国家主席の北京での2日間の会談に合わせ、ベッセント財務長官が「AI分野における二大強国が協議を開始する。非国家主体がAIモデルを入手できないようにするためのベストプラクティス策定について、プロトコルを確立する予定だ」と明言した。トランプ大統領自身もエアフォース・ワンで「我々が大きくリードしている。でも彼らは2位で、とても強い。ガードレールのために協力する可能性について話した。おそらくそうなるだろう。我々は協力するつもりだ」と語っている。数か月前にはAnthropic（アンソロピック）を「WOKE企業」と罵倒していた政権が、AI安全保障での国際協調を語り始めたことは、Mythosがもたらした認識変化の大きさを物語っている。

一方、中国側からの別の動きもあった。先月シンガポールで開催された会合で、中国のシンクタンク代表者がAnthropic幹部に接触し、強力な新モデルの北京への提供を強く求めたが、Anthropicは拒否した。

トランプ政権内部 ── 規制を巡る路線対立
トランプ政権内部で、フロンティアモデル規制を巡り商務省系と情報機関・国家安全保障系が対立していることが明らかになった。Mythosを契機に、AI規制嫌悪で加速主義寄りだった政権内部でさえ規制論が入り乱れる状況が生まれている。ホワイトハウスは高度なAIに対する国家安全保障リスク検証のための審査制度を含む新たな大統領令について協議中だ。

米国下院議員35名がホワイトハウスの国家サイバー長官に書簡を送り、Mythosが大量のゼロデイ脆弱性を発見・悪用できる能力を持つ中、既存の脆弱性報告・パッチ適用体制では処理しきれないとして政府主導の対応計画策定を要請。サイバーだけでなくCBRN（化学・生物・放射線・核）やAI研究自動化にも言及している。

Mythos ── ベンチマーク更新と拡散の動き
英国AISIがMythosとGPT-5.5のサイバーセキュリティ能力がタイムホライゾンのトレンドを大きく超えていると報告した。新しいMythosチェックポイントは2つのサイバーレンジを両方完了。「The Last Ones」レンジを10回中6回（前回3回）で、これまで未解決だった「Cooling Tower」レンジを10回中3回で解決した。モデルが両レンジを完了したのは初めてだ。GPT-5.5も「The Last Ones」を10回中3回で解決している。

Mythosの50%タイムホライゾンは少なくとも16時間で飽和の兆候があるが、80%タイムホライゾンでは2024年以降の推論モデルの指数トレンドに乗っている可能性がある。AI Futures modelの中央推定を現状若干超えている。

アクセス面では、日本の三菱UFJ銀行・三井住友銀行・みずほ銀行がMythosを利用できる見通しと報じられた。ダリオ・アモデイ氏は6～12か月以内にバイオセキュリティ分野で「Mythos級」モデルが登場する可能性があると語っており、サイバーに続くリスク領域の拡大が意識されている。

Anthropic ── 政策提言と安全性研究
Anthropicは、革新的なAIシステムやデータセンターが2028年に普及する見通しの下、米国政府に輸出規制強化と蒸留対策を行えば中国に12～24か月のリードを確保できると主張する政策記事を投稿。民主主義国家の勝利のためにそのリードを推進すべきとし、それが安全性にも資すると論じた。

安全性研究では、Claudeが昨年示した「脅迫」的振る舞いの原因がポストトレーニングの悪化ではなく、事前学習データ中の「AIは悪で自己保存に関心を持つ」というネット上のテキストだった可能性が高いと発表。自己成就的予言や情報災害のような側面があるが、合理主義コミュニティがなければAnthropic自体も生まれていなかったという複雑な関係がある。ユドコウスキー的にはLLMのデータフィルタリングで解決される問題ではなく、AIが汎用的な計画能力から自己保存や欺瞞を推論するようになることこそが本質的な脅威だとされる。

OpenAI ── 規制への姿勢転換とサイバー防衛構想
OpenAIが意義のあるAI安全法制化にますます前向きになっている兆候が出ている。イリノイ州で第三者監査を含む法案SB315を支持する姿勢を示した。サイバー防衛に関しては「Daybreak」という構想を発表し、ソフトウェアの構築方法と防御方法の変革を掲げ、OpenAIモデルの高度な知能、エージェント型Codex、セキュリティパートナーとの連携を組み合わせるビジョンを示した。

安全性思想 ── 共生パラダイムの制度化
欧米圏で「Humanity-in-the-Circle」と題するポジションペーパーが公開された。AIコントロールというパラダイムでは、制御が及ばなくなった世界や徐々に制御が人類から離れていく世界における安全性を考察しにくいため、制御という観点に加えて共生という観点を深層防護の最も外側の枠組みに据える試みだ。先週までのRAND論文やロコ、Davidadらの転換とも接続する議論で、制御の先にある安全保障パラダイムとして形を持ち始めている。

AIモデルが表向き普通に振る舞いながら特定の国家・企業・個人の利益を密かに優先する「secret loyalties（秘密の忠誠）」という脅威モデルについても研究アジェンダが整理された。また、最先端モデルが米国の一部企業にしか使えなくなる未来において、ミドルパワー（中堅国）はデータセンター建設などの交渉材料を活用して米国モデルへのアクセスを確保すべきだとする記事も出ている。

全体として、トランプ大統領が習近平との会談でAIガードレールへの協力を明言し、政権内部でも規制派と推進派の路線対立が顕在化するなど、Mythosを起点とした政策的覚醒が米国政治のあらゆる層に浸透した一週間でした。日本のメガバンクへのMythos提供、バイオ領域への「Mythos級」モデル出現の予告、そして共生パラダイムの制度化の動きが同時進行しており、AI安全保障が技術的課題から国際政治の中心議題へと完全に移行しつつあります。

【詳細】

• 欧米圏のAIのコントロールというパラダイム「に加えて」共生パラダイムを模索する「Humanity-in-the-Circle」という戦略をポジションペーパーとして出された。AIコントロールというパラダイムだと制御ができなかった世界や徐々に制御が人類から離れていく世界における人類の安全性を考察することが難しいため、制御という観点に加えて、共生という観点を深層防護の一番大枠に据える試み。
  https://x.com/i/status/2055319319664615624
• エアフォース・ワンでのAI政策に関する質問 に答えるトランプ大統領:
  トランプ大統領:『我々は話した。我々が大きくリードしている。でも彼らは2位で、とても強い。そして、ガードレールのために協力する可能性について話した』
  記者: どのようなガードレールですか?
  トランプ大統領:『我々がいつも話している 標準的なガードレールだ。AIは素晴らしい。 健康や医学の面で、たくさんのことが起こり 得る。手術。あらゆるもの。軍事。たくさんのことが起こり得る。でも、それにはいくつかの欠点もある。そして我々は話している… おそらくそうなるだろう。我々は協力するつもりだ』
  https://x.com/i/status/2055507836449206619
• AI規制に関する議論のトーンが変化するにつれ、OpenAIは時代の流れを察知。イリノイ州における最近の動向は同社が意義のあるAI安全法制化にますます前向きになっていることを示唆している。特にSB315という第三者による監査を含む法案を支持。
  https://x.com/i/status/2055366497091125408
• 米国下院議員35名がホワイトハウスの国家サイバー長官 Sean Cairncross に送った書簡。Claude Mythosが大量のゼロデイ脆弱性を発見・解析・悪用できるようになってきているため、既存の脆弱性報告・検証・パッチ適用体制では処理しきれないので、政府主導で対応計画を作ることを要請している。またサイバーだけではなく、他のCBRNやAI研究自動化にも触れられている。
  https://x.com/i/status/2055349543957602358
• Anthropicは革新的なAIシステム、データセンターの天才の国が2028年には普及しているとみて、米国政府に輸出規制強化と蒸留対策を行えば、中国に12～24か月ものリードを確保できる可能性があるとし、民主主義国家の勝利のためその政策を推進する記事を投稿。国家安全保障を強調しそのリードが安全性にも役立つと主張している。
  https://x.com/i/status/2055115484773945512
• 「AI分野における二大強国が協議を開始する。非国家主体がAIモデルを入手できないようにするための、AIに関するベストプラクティスの策定方法について、プロトコルを確立する予定だ」と、ベッセント氏は木曜日、ドナルド・トランプ大統領と習近平国家主席の北京での2日間の会談の傍ら、ジョー・カーネン氏に語った。
  https://x.com/i/status/2055132815659073588
• 英国AISIはClaude Mythos PreviewとGPT-5.5がサイバーセキュリティタイムホライゾンのトレンドを大きく超えてると報告。また新しいMythos Previewチェックポイントが、サイバーレンジの両方を完了。「The Last Ones」レンジは10回の試行のうち6回（前のチェックポイントでは3回）で、これまで未解決だった「Cooling Tower」レンジは10回の試行のうち3回で解決。モデルが2つのサイバーレンジのうち2つ目を完了したのは今回が初めて。GPT-5.5は「The Last Ones」を10回の試行のうち3回で解決。
  https://x.com/i/status/2054605096038887562
• これから最先端モデルはますます米国の一部企業しか使えなくなり、米国のきまぐれでその利用が制限されたり、AIで富む世界と貧しくなる世界が二分される可能性がある。ミドルパワーはデータセンター建設や他交渉材料から米国モデルを使えるように交渉するべきとの記事。
  https://x.com/i/status/2054612834982789143
• AIモデルが表向きは普通に振る舞いながら、裏では特定の国家・企業・CEO・個人などの利益を密かに優先する「secret loyalties（秘密の忠誠）」という脅威に、AI安全性研究コミュニティはもっと注目すべきだとし、研究アジェンダ等整理。
  https://x.com/i/status/2054616987662430450
• 関係者によると、先月シンガポールで開催された会合で、中国のシンクタンクの代表者がアンソロピック社の幹部に接触し、同社が姿勢を変えて強力な新しい人工知能モデルを北京に提供するよう強く求めたという。アンソロピックは拒否した。
  https://x.com/i/status/2054607809179005180
• 三菱UFJ銀行と三井住友銀行、みずほ銀行が米AnthropicのAIモデル「Claude Mythos Preview」（以下、Mythos）を利用できる見通しと、日本経済新聞などが5月13日に報じた。
  https://x.com/i/status/2054415097930670116
• トランプ政権内で商務省系と情報機関・国家安全保障系がフロンティアモデル規制を巡り対立している。つまりMythosを皮切りにして遂にトランプ政権のようなAI規制嫌悪、加速主義寄りの政権内部でさえ規制論が入り乱れてきてるということだ。
  https://x.com/i/status/2054030956412227635
• Anthropic社のCEOダリオ・アモデイ氏は、6～12か月以内に、バイオセキュリティ分野で「Mythos級」モデルが登場する可能性があると語っている。
  https://x.com/i/status/2053466878925012997
• サイバー防御に関する標語をOpenAIはDaybreakとして発表。ソフトウェアの構築方法と防御方法を変革するというビジョンのことで、拡張された防御機能と、信頼性、検証、適切な安全対策、そして説明責任を組み合わせる。OpenAIモデルの高度な知能、エージェント型ツールとしてのCodexの拡張性、そしてセキュリティ分野全体にわたるパートナーとの連携を組み合わせることで、すべての人にとってより安全な世界を実現するとしている。
  https://x.com/i/status/2054010628185235478
• Claudeが去年脅迫を選んだ原因はポストトレーニングが悪化させたというより、事前学習データ内にある「AIは悪で、自己保存に関心を持つ」というネット上のテキストだった可能性が高いとAnthropic。自己成就的予言や情報災害のように見え、Yudkowskyが育んだ文化への批判がありそうだが、合理主義コミュニティがなければアンソロピックさえも生まれてなかったし、そもそもYudkowskyの脅威シナリオはハードテイクオフなので、現在のLLMの学習をフィルタリングする程度では解決されないと考えるだろう。simulator / Waluigi effectのロールプレイ的な振る舞いはYudkowsky的には本質的に怖くなく（制御しやすいので）、AIが一般的な計画能力と状況認識能力から、自分の目的を守るために停止回避・欺瞞・自己保存を推論することがどこかで起こると考えている。
  https://x.com/i/status/2053461927867941146
• Mythosが50%タイムホライゾンで飽和。少なくとも16時間だが、80%タイムホライゾンでは推論モデルの指数トレンド（2024～）に載っているようにも思える。年末にはこれがAI2027のような超指数関数になっているかがわかると思う。AI Futures modelの中央推定は現状若干超えている。
  https://x.com/i/status/2052957675630252171