bioshokの最新AI事情 2026年7月4日～7月10日　AI2040が描く銀河規模の未来と米中双方のAIモデル輸出規制

偏執的に世界中のAI情報を収集・発信するbioshokの週刊連載。この1週間にピックアップした主要ニュースをまとめて紹介。

【要約】

AI2040 ── 人類がシンギュラリティを「安全に」迎えるための提言
今週最大の話題はAI2040の発表だ。AI2027が中国との競争を軸にした危機シナリオだったのに対し、AI2040は人類が安全にシンギュラリティを2040年代に迎え、銀河全体に広がるエピローグまでを描き、それを現実にするための最善の戦略を「Plan A」として提言している。

Plan Aでは2029年に米中が合意しASI開発の一時停止が行われる。多くの人が超知能やAGIという言葉を軽く使っているが、AGIに至る前のAIでさえあまりにも経済的・科学的な発展をもたらし「一時停止と感じない」ほどだとされる。AGIは2035年に開発され、その時点で米国では誰もが最低100万ドルの所得を得て、AIは約1,000億人の労働力に相当し、ロボットが20億体存在するSF的世界に至る（規制下でもこの速度）。2040年までにアライメントの科学が解明され、ASIに実質的に人類文明が引き渡された後は、アップロード、宇宙文明、極限まで洗練されたナノテクの世界となり、人類は一人一つの銀河を持てるとされている。

特に重要な提言として、ASI開発の一時停止に加え、アルゴリズムの公開によるアライメント研究の促進、独裁者を防ぐ透明性の確保、企業が能力開発競争ではなく安全上の競争にインセンティブを持つ構造の設計が挙げられている。クローズドな中央集権管理に陥りがちな超知能開発禁止論に対し、オープンなガバナンスを提案している点が従来の議論と一線を画している。宇宙ガバナンスの論考、アライメント成功のロードマップ、産業爆発のシミュレーション、一般人目線の銀河スケールのエピローグまで含む包括的な文書だ。

一方でSeb Krier氏からは多元的観点からの批判もある。詳細な未来シナリオという形式は記述・予測・規範を一つの物語に混ぜやすく、特定の結論に有利な前提が埋め込まれやすいこと、権力集中のリスクが「ラボ集中」に偏り歴史上の国家機構による惨事を過小評価していること、経済前提が粗すぎること、そして「技術的アライメントを解いて国連や政府に実装する」というトップダウン志向の根本は変わっておらず、多中心的・競争的・分散的な制度の想像力が不足しているのではないかという指摘だ。

中国 ── 最先端AIモデルの海外アクセス制限を検討
中国商務省がアリババ、バイトダンス、Z.aiなどの主要AI企業と会合を重ね、未公開モデルを含む最先端AIモデルへの海外アクセスを制限する措置について協議していることが判明した。クローズドソースだけでなくオープンソースモデルも対象に含まれるとされる。AI技術の漏洩や窃盗を国家安全保障犯罪として厳罰化すること、中国AIスタートアップへの外国資本の投資制限も議論されている。

背景には、米国によるAIモデル輸出規制の強化と、米国のサイバーセキュリティAIモデルが中国製ソフトウェアの脆弱性を悪用する可能性への懸念がある。今後の規制は技術力に基づく段階的枠組みとなる見通しで、基本的なオープンソースモデルは登録制、高性能モデルはセキュリティ審査、最先端モデルは公開禁止または国内限定という構造が検討されている。米国のFable 5輸出規制に呼応する形で、AIモデルの輸出管理が米中双方で同時に進む構図だ。

併せて中国のNVDB（国家脆弱性データベース）がAnthropicのClaude Codeに関する「バックドア」セキュリティ警告を発令。影響を受けるシステムの確認とアップグレードを勧告した。

技術爆発の射程 ── 宇宙規模の技術予測
EpochAIのブログで、自己複製探査機、マインドアップロード、ダイソンスウォームがAGI以後どのくらいで実現可能かを真剣に推測すべきだとする記事が公開された。技術爆発リプツリーへの追記として位置づけられている。AI2040のエピローグとも接続する議論で、AGI後の技術的可能性の具体的な見積もりが研究コミュニティで本格化し始めている。

Anthropic ── 意識理論に対応する構造をモデル内に発見
Anthropicが、神経科学における意識理論の一つ「グローバルワークスペース理論」に類似した機構「J-Space」を言語モデル内に発見したと報告した。AIの内部構造と意識の理論的枠組みが交差する研究として注目される。

その他
米国の各機関・組織がAIの安全保障に対してどのような役割を果たしているかの包括的なまとめが公開された。

――――
全体として、AI2040が「安全なシンギュラリティ」への具体的な道筋と銀河規模の未来を提示し、その批判的検討も同時に始まった一週間でした。米中双方がAIモデルの輸出管理に動き、フロンティアAIが半導体に続く戦略物資として扱われる構図が完全に定着しつつあります。EpochAIの宇宙規模の技術予測やAnthropicのJ-Space発見が示すように、AGI後の世界を具体的に考える営みが研究・政策・思想のすべてで加速しています。AI2040が示した最も重要な認識は、AGIに至る前のAIだけでも世界を圧倒的に変える力があり、超知能の開発停止ですら「停止と感じない」ほどの豊かさが実現しうるということかもしれません。

【詳細】

• AI2040が発表された。AI2027と違い、人類が「安全に」シンギュラリティを2040年代迎え、銀河全体に広がるエピローグが描かれそれを現実にするための最善の戦略が「Plan A」と呼ばれ提言されている。2029年に米中合意しASI開発の一時停止が行われる。多くの人が超知能やAGIという言葉を「軽く」使っているが、AGIに至る前のAIでさえあまりにも経済的科学的な発展をもたらし「一時停止と感じない」だろう。AGIは2035年に開発され、その時点で米国では誰もが最低100万ドルの所得を得て豪華な家に住みAIは約1000億人の労働力に相当しロボットが20億体存在するSF的世界へ（規制でこれでも遅い変化）。2040年までにアライメントの科学が解明され、ASIに実質的に人類文明が引き渡されその後SFどころか魔法（アップロード、宇宙文明、極限まで洗練されたナノテク）の世界になり、人類は一人一つの銀河を持てる。この提言で特に重要なのはASIの開発の一時停止もそうだが、普通この手の超知能開発禁止はクローズドな中央集権管理になりがちなのに対して、この提言ではアルゴリズムの公開によってアライメント研究が促進されること、独裁者が生まれない透明性が生まれること、企業が独自に能力開発競争をするメリットがなくなる（アルゴリズムは公開されるため安全上の競争インセンティブの方が働く）など重要な提言がされている。他にも宇宙ガバナンスの長い論考から、アライメントの成功のロードマップ、産業爆発のシミュレーション、全てがうまくいった後の一般人目線から見た銀河スケールのエピローグまであまりにも濃度が高いので、人類の未来を考える人にとっては絶対に必見だろう。
  ―――――
  ここからは僕の感想だが、AIが世界を変えるといいつつ具体的に未来を本当の意味で想像する人は世界でも本当に少ないと思う。そして去年からオープンなガバナンスにEA付近では焦点が当たってきており、クローズドなエリート主義から一転しているのも良いと感じる。AI2027では中国を打ち負かすシナリオだったが米中が協力できるのは望ましい。そして僕も超知能の開発は停止するべきだと思う。あまりにも世間は超知能をちょっと賢いチャッピーのようなAIの比喩に使いすぎている。超知能は人類を短期間で殲滅し、地球環境を激変させるレベルのものだと僕は思うし、AGIでえ産業は規制がなければ数週間で倍増し、十年で数百年の技術進歩をもたらすほどの圧倒的にユートピアに近い世界になるだろうと思う。そう考えると加速主義でさえ減速した方が良いと感じられるはず。AI2040は大前提の世界観としてAIの大きなアップサイドを感じさせる。まずそこの認識が大事だと思う。
  https://x.com/i/status/2075328576271024143

• Seb KrierさんからのPlanAへの多元的観点からの批判。AI2040は詳細な未来シナリオとして書かれているが、こういう形式は、記述・予測・規範を一つの物語に混ぜやすい。細部が多いほど「一貫して見える」が、実際には特定の結論に有利な前提が埋め込まれやすい。また「大きな事前計画」への違和感。また 権力集中の理解が「ラボ集中」に偏っている。歴史上の巨大な惨事は、しばしば商業よりも国家機構によって可能になった。また経済前提が粗すぎでAGIピルを飲んでいても、この最大主義的な経済像には疑問を持てる。
  「技術的アライメントを解き、それを国連や政府に渡して世界に実装する」という発想は昔からあった。Plan Aはその現代版で、細部は増えたが、根本には同じトップダウン志向がある。むしろ多中心的・競争的・分散的な制度の想像力が足りないのではないか、という批判。
  https://x.com/i/status/2075805650945487104
• 自己複製探査機やマインドアップロードやダイソンスウォームはAGI以後どのくらいでできるかを真剣に推測して考えるべきとEpochAIのブログ。技術爆発リプツリーに追記。
  https://x.com/i/status/2074900581412712762
• 中国、アントロピック社のクロード・コードに関する「バックドア」セキュリティ警告を発令。
  NVDBは、組織およびユーザーに対し、影響を受けるシステムを直ちに確認し、影響を受けるバージョンをアンインストールするか、問題となっているバックドアコードが削除された最新の安全なリリースにアップグレードするよう勧告した。
  https://x.com/i/status/2074790445948022841
• 中国、最先端AIモデルの海外アクセス制限を検討。中国商務省は過去1カ月間、アリババ、バイトダンス、Z.aiといった主要AI企業と会合を重ね、未公開モデルを含む最先端AIモデルへの海外アクセスを制限する措置について協議してきた。
  協議対象には、クローズドソースモデルだけでなく、オープンソースモデルも含まれると報じられている。しかし、適用範囲はまだ議論中で、最終的には将来の最先端モデルのみに適用される可能性もある。
  当局はまた、独自のAI技術の漏洩や窃盗を国家安全保障犯罪と位置づけ、より厳しい罰則を科すこと、そして中国のAIスタートアップへの外国資本の投資の種類を制限することについても議論している。
  こうした動きの背景には、米国がAIモデルの輸出規制を強化していること、そして高度なサイバー攻撃能力を持つ可能性のある最先端モデルに対する国家安全保障上の懸念がある。
  中国当局は、米国の高度なサイバーセキュリティAIモデルが中国製ソフトウェアの脆弱性を悪用する可能性があることを懸念していると報じられている。
• 中国は今年に入ってから、AI技術の海外移転を防ぐための措置を強化し続けている。当局は、海外に移転した中国のAIスタートアップ企業が輸出管理法に違反していないか調査するとともに、中国の投資家、技術、データ、国家安全保障に関わる海外取引に対する監視を強化している。
• 今後の規制は、技術力に基づいた段階的な枠組みとなる可能性がある。基本的なオープンソースAIモデルは登録システムで管理され、高性能モデルはセキュリティ審査の対象となり、最も機密性の高い最先端モデルは公開が禁止されるか、中国国内での使用に限定される可能性がある。
  https://x.com/i/status/2074790245032493320
• アンソロピック、グローバルワークスペース理論を言語モデル内にも似た機構J-Spaceを見つける。
  https://x.com/i/status/2074185348142280912
• 米国の各機関組織がAIの安全保障に対してどのような役割を果たしているかの優れたまとめ。
  https://x.com/i/status/2073491480404959417