AGIがもたらす産業・技術爆発とは何か

要約
　AGI（汎用人工知能）の実現は目前だと言われている。AGIとは、人間のような知能を持ち、人間のように多様な課題に対処できるAIのことである。
　AGIは、自ら科学技術の研究開発を行ない、自らを改良していくので、人間が、今後数百年かかって成し遂げるはずだった科学技術の進歩をわずか10年で成し遂げるだろう。これが「技術爆発」である。さらに、ロボットがロボットを作るようになれば、生産力も指数関数的に増え、「産業爆発」が起きる。そのスケールは宇宙規模になり、人間が制御し続けることは難しい。
　産業爆発に遅れを取った国は取り返しのつかない文明の格差を背負うことになるから、各国は慎重な規制よりも急速な拡大を選ぶだろう。
　しかし、新型の生物兵器、自律型ドローン兵器、ナノテクノロジーの軍事利用など、技術爆発がもたらす新技術の一つ一つが、人類文明に対する存在論的リスクを孕んでいる。これらのリスクがAGIの実現からわずか10年で現実化しうる。

AGIはどんな変化をもたらすのか？

　あなたは、AIの進化がAGIに到達してから10年後の世界を想像できるだろうか。

　今の延長線上にある、少しだけ便利になった世界を思い浮かべるかもしれない。AIアシスタントが賢くなって、自動運転車が普及して、AIエージェントの信頼性が飛躍的に高まり、当たり前になった世界。ホワイトカラーの多くが失業し産業に革命が起きている。おそらく多くの人がそう想像するだろう。

　しかし、最先端の議論では、まったく異なる未来が真剣に語られている。AGIが開発されると、AIが自らAIを改良するフィードバック・ループによって数百年分の科学技術の進歩がわずか10年に圧縮される「技術爆発」が起こりうる。さらにロボットがロボットを作る自己複製のフィードバック・ループによって物理的な世界も爆発的に変革される「産業爆発」が続く。10年後、地球上には数兆台のロボットが稼働し、水星は解体され、太陽の周りに巨大なエネルギーインフラが建設されているかもしれない。

　そして、もし本当に数百年分の技術進歩が10年で起こるなら、実用的な核融合炉や量子コンピュータはもちろん、その先にある人類がこれまで「技術ツリーの最後」だと思っていたようなもの——人間の脳の完全なデジタル化や意識のアップロード、物質を原子レベルで操作するナノテクノロジー——すら実現しうる世界だ。つまり、かつてSFの中だけの概念だった「シンギュラリティ」、人類の知性と文明が根本的に変容する特異点が、私たちの生きている間に、しかも驚くほど短い時間スケールで訪れるかもしれないという議論である。

　荒唐無稽に聞こえるかもしれないが、この議論を支えているのはSF作家の空想ではなく、Forethought ResearchやEpoch AIといった研究機関の研究者たちによる定量的な分析である。

　この3年間でAGI（汎用人工知能）という言葉は急速に広まった。OpenAI CEOのサム・アルトマン、Google DeepMindのデミス・ハサビス、AnthropicのCEOダリオ・アモデイといったAI開発の最前線にいる人物たちが、AGIの開発が間近であると繰り返し発信している。

　多くの人はこうした話を聞いて、ホワイトカラーの仕事が自動化されたり、科学研究が加速したりする未来を思い浮かべるだろう。しかし、それはAGIのインパクトのほんの入り口にすぎない。

　本記事では、AGIがもたらす変化の中でも最もスケールが大きく、最も信じがたく、そしておそらく最も重要な「技術爆発」と「産業爆発」という概念を紹介する。それはAGIが「バーチャルな世界」だけでなく「物理的な現実世界」を、しかも想像を絶するスピードで根本から作り替えてしまうという議論であり、本当の意味でのシンギュラリティが起きる可能性が高まっていることを示すと思われる。

産業爆発／技術爆発とは何か

　まず「技術爆発」と「産業爆発」がそれぞれ何を意味するのかを大まかに説明する。詳しい根拠やメカニズムは後の章で述べるが、ここではまず全体像をイメージしてほしい。

技術爆発——AIがAIを改良し科学技術の進歩が爆発的に加速する

　技術爆発とは、AGIが科学研究そのものを自動化することで、技術進歩のスピードが爆発的に加速する現象をいう。

　現在、科学技術の進歩を支えているのは人間の研究者たちだ。世界中の大学や企業の研究所で、数百万人の科学者やエンジニアが日々研究に取り組んでいる。そしてその研究者の数は年間数%程度しか増えていない。つまり科学技術の進歩速度は、人間の研究者の数と能力にボトルネックがある。

　しかしAGIが開発されると、状況は一変する。AGIは定義上、人間の研究者ができることなら何でもできる。つまりAI自体を改良する研究もAGIが行えるようになる。するとAGIがより賢いAGIを作り、そのより賢いAGIがさらに賢いAGIを作り……というフィードバック・ループが回り始める。しかもAIの「研究者」はコピー可能だ。優秀なAI研究者をサーバー上でいくらでも複製できるため、研究者の数は人間の人口増加率のような制約を受けない。年間25倍以上のペースで増やせるとする推計もある。

　その結果として起こりうるのが、数百年分の科学技術の進歩がわずか10年程度に圧縮されるという事態だ。Forethought Researchの分析では、これを「100年分の技術進歩が10年で起こる（a century in a decade）」と表現している。

　100年分の技術進歩が10年で起こるとはどういうことか。1925年から2025年の100年間を思い出してほしい。この間に人類は原子爆弾を発明し、月に降り立ち、DNAの構造を解明し、インターネットを作り、スマートフォンを普及させ、AIを開発した。ペニシリンもなかった時代からCRISPRによるゲノム編集まで到達した。この100年間の変化の全てが、AGI開発後のたった10年間に再び起こる——しかも今度は2025年の技術水準を出発点として、そこからさらに100年分先に進むのだ。

　その先にはどんな技術があるだろうか。実用的な核融合発電、汎用量子コンピュータ、人間の老化を止める医療技術、分子レベルで物質を操作するナノテクノロジー、そして究極的には人間の脳を完全にスキャンしてデジタル化するマインドアップローディング。現時点では数十年から数百年先と思われているこうした技術が、技術爆発の世界ではわずか10年以内に実現しうることになる。

産業爆発——ロボットがロボットを作り、物理世界が変貌する

　技術爆発が「知の世界」の爆発だとすれば、産業爆発は「モノの世界」の爆発だ。

　産業爆発とは、AGI開発後にロボットがロボット自身を製造する自己複製のフィードバック・ループが始まり、物理的な産業基盤が爆発的に拡大する現象をいう。

　技術がどれほど進歩しても、それが実際に物理的な世界を変えるためには、工場で製品が作られ、インフラが建設され、エネルギーが供給されなければならない。今の世界ではこのプロセスのあらゆる段階に人間の労働者が必要であり、だからこそ物理的な世界の変化はゆっくりとしか進まない。

　しかしAGIがロボットを操作できるようになれば、この制約が外れる。ロボットが原材料を採掘し、部品を製造し、新しいロボットを組み立て、工場を建設し、発電所を作る。そしてそのロボットたちがさらに多くのロボットを作る。人間のボトルネックが消えた瞬間、産業は指数関数的な成長を始める。1年で倍増するなら、100万台のロボットは10年で10億台になる。そして後述するように、倍増時間そのものがどんどん短くなっていくため、実際にはもっと速い。

　その結果として描かれる世界は、私たちの常識からは完全にかけ離れている。AGI開発から数年で地球上の産業は劇的に作り替えられ、数十億台のロボットが24時間365日稼働する。太陽光パネルが砂漠や海洋に大規模に敷設され、エネルギー供給は現在の何十倍にも拡大する。そしてその産業力は地球を超えて宇宙に向かう。水星や小惑星帯に送り込まれた自己複製ロボットが現地の資源を使って太陽光パネルを製造し、太陽の周りにダイソンスウォームと呼ばれる巨大なエネルギーインフラを構築し始める。

　ここでカルダシェフ・スケールという概念を紹介しておこう。これは知的文明のレベルをエネルギー利用量で分類する指標で、地球に降り注ぐ太陽光エネルギーを全て使える文明をタイプ1、太陽が放つエネルギーの全てを使える文明をタイプ2とする。現在の人類はタイプ1にもはるかに届いていないが、産業爆発が進行すればわずか数年から数十年でタイプ1を超え、タイプ2に向かって急速に駆け上がっていく可能性がある。

　ガンダムやスターウォーズのような宇宙文明の風景が、AGI開発からわずか10年から数十年で現実になるかもしれない。それが産業爆発という概念が描く未来だ。

技術爆発と産業爆発は互いを加速する

　そして重要なのは、技術爆発と産業爆発は独立した現象ではなく、互いを加速し合うということだ。

　技術爆発によってロボット工学や材料科学が進歩すれば、ロボットはより安く、より速く、より高性能になり、産業爆発が加速する。逆に産業爆発によって膨大なエネルギーとコンピューティング資源が供給されるようになれば、AIの訓練や推論に使える計算量が桁違いに増え、技術爆発がさらに加速する。

　この二つのフィードバック・ループが絡み合うことで、変化は単なる指数関数的な成長を超えた、加速が加速する「超指数関数的」な成長になりうる。そしてそのスピードが十分に速ければ、前述したようなマインドアップローディングやナノテクノロジーといった「技術ツリーの最後」に位置する技術すら、私たちの生きている間に到達可能な射程に入ってくるのだ。

　以下ではこうした技術爆発と産業爆発がなぜ起こりうるのか、その根拠とメカニズムを一つずつ検討していく。

技術爆発はなぜ起こりうるのか

経済成長の標準的なモデルが予測する「爆発」

　技術爆発という議論は一見突飛に聞こえるかもしれないが、その根拠の中核にあるのは経済学で広く受け入れられている標準的な成長理論である。

　まず背景から説明しよう。1956年にロバート・ソローが提唱した新古典派成長モデルでは、経済成長の源泉は「技術進歩」であるとされたが、その技術進歩がなぜ起こるのかは説明されなかった。技術進歩はモデルの外から「外生的」に与えられるだけであった。

　この問題を解決したのが、ポール・ローマーが1990年代に確立した「内生的成長理論」である。ローマーのモデルでは、企業や研究者が利益を求めて研究開発に投資し、その結果として新しいアイデアや技術が生み出される。そしてアイデアには「非競合性」という重要な性質がある。リンゴは一人が食べたら他の人は食べられないが、アイデアは何人でも同時に使える。この性質が経済に「収穫逓増」をもたらす。つまり経済全体の規模が倍になると、産出は倍以上に増えるのである。ローマーはこの洞察により2018年にノーベル経済学賞を受賞した。

　実はこの収穫逓増の構造は、人類史1万年にわたる世界総生産（GWP）の成長パターンをうまく説明する。経済学者マイケル・クレマーが1993年に示したように、紀元前100万年から現代までの超長期で見ると、GWPの成長率は一定ではなく、人口の増加とともに加速し続けてきた。人口が増えれば研究者（アイデアを生む人間）が増え、アイデアが増えれば技術が進歩し、技術が進歩すれば経済が拡大してより多くの人口を養える。この「人口→アイデア→経済→人口」というフィードバック・ループが収穫逓増のもとで回り続けた結果、GWPは単なる指数関数ではなく、成長率自体が加速していく超指数関数的（双曲線的）な軌道を描いてきたのである。狩猟採集時代のGWPの倍増には数千年かかったが、農耕社会では数百年、産業革命以後は数十年で倍増するようになった。ローマーの内生的成長理論は、この人類史全体を貫く加速パターンに理論的な基盤を与えたといえる。

人類史におけるGWPは超指数関数的な成長を見せている
「Could Advanced AI Drive Explosive Economic Growth?」（Tom Davidson、2021年6月25日）から

　しかし、ローマーのモデルにはひとつ問題があった。研究者の数が増えると、成長率自体がどんどん加速していくと予測してしまうのである。現実には、先進国の研究者数は戦後ずっと増えてきたが、一人当たりGDPの成長率は概ね一定で、加速はしていない。

　この矛盾を解決したのが、チャド・ジョーンズが1995年に提唱した「半内生的成長モデル」である。ジョーンズのモデルではローマーのモデルに二種類の「収穫逓減」を組み込んでいる。

　一つ目は「アイデアを見つけるのがどんどん難しくなる」という要素である。科学が進歩するほど、残っている未発見のアイデアはより深く、より複雑になり、一つの発見に必要な努力が増えていく。実際にBloom、Jones、Van Reenen、Webbの2020年の研究では、この現象が実証的に確認されている。もっとも有名な例は半導体のムーアの法則である。コンピュータチップの集積密度を2年で倍増させるために必要な研究者の数は、1970年代初頭と比べて18倍以上に膨れ上がっている。米国経済全体でも、研究の生産性は約13年ごとに半減しているとされる。

　二つ目は「研究者同士の重複」という要素である。研究者が増えると、同じテーマに取り組む人が増え、お互いの努力が一部無駄になる。100人の研究者を200人に増やしても、成果が倍にはならない。

　この二つの収穫逓減を組み込んだ半内生的成長モデルは、ローマーの初期モデルよりも現実のデータをはるかにうまく説明する。たとえば先進国で研究者が増えても成長率が加速しない理由は、研究者が増えた効果を「アイデアを見つけるのが難しくなる」効果が相殺しているからである。

　さらに興味深いことに、このモデルは近代以前の歴史もうまく説明する。経済学者マイケル・クレマーが1993年に示したように、紀元前100万年から1990年までの超長期の人類史を見ると、経済成長率は人口に比例して加速してきた。人口が多い文明ほど技術進歩が速く、地理的に隔絶されていた大陸同士（たとえばユーラシア大陸とオーストラリアやアメリカ大陸）を比較すると、人口の多い大陸のほうがはるかに高い技術水準に到達していた。ユーラシア大陸が産業革命を起こしたのに対し、人口が少なく孤立していたオーストラリアのアボリジニは狩猟採集社会にとどまっていた。半内生的成長モデルの「人口が多ければ研究者が多く、研究者が多ければ技術が進歩する」という基本構造は、まさにこのパターンを説明するものである。

なぜAIが状況を一変させるのか

　ここまでの説明では、半内生的成長モデルは「成長率は概ね一定」という結論を導いているように見えるかもしれない。研究者が増えても、アイデアを見つけるのが難しくなるから相殺される、と。

　ではなぜこのモデルがAGIの登場で「爆発的な成長」を予測しうるのか。答えは単純である。人間の研究者は増やすのが極めて遅いが、AIの研究者は桁違いの速度で増やせるからである。

　現在、世界の研究者数は年間約4%で増えている。これは人口増加率や高等教育の普及速度に制約されている。しかしAIの「研究者」は、計算資源を増やしてモデルを複製するだけで増やせる。Forethoughtの推計では、推論効率の改善（年間約10倍）と推論用計算資源の増加（年間約2.5倍）を掛け合わせると、AIの研究努力量は年間25倍以上のペースで増加しうるとされている。年間4%と年間25倍では、600倍以上の差がある。

　半内生的成長モデルの枠組みでは、「アイデアを見つけるのが難しくなる」という収穫逓減は確かに存在する。しかしその収穫逓減のスピードは、研究者を年間25倍で増やすほどの急激なものではないというのがBloomらの実証結果が示唆するところである。たとえば研究の生産性が13年で半減するなら、それを相殺するには研究者を13年で倍にすればよい。しかしAIの研究努力量が年間25倍で増えるなら、13年間で25の13乗——つまり天文学的な数の研究者を投入できることになる。収穫逓減をはるかに上回る研究者の投入によって、技術進歩はこれまでとは全く異なるスピードで加速する。

　Epoch AIのEge ErdilとTamay Besirogluはこの構造を以下のように要約している。「AIが人間の労働を適切に代替する場合、より多くの産出がより多くの投入を生み、より多くの投入がそれ以上の産出を生むフィードバックメカニズムが生じる。したがって、こうしたモデルは一般的に超指数関数的な成長を予測する。」

　つまり、半内生的成長モデルは、現在の経済成長のペースを説明するために設計されたモデルでありながら、「もし研究者数を急速に増やせたら何が起こるか」という仮想的なシナリオを入れると、爆発的な成長を予測してしまうのである。そしてAGIとは、まさにその仮想的なシナリオを現実にするものにほかならない。

「100年分の技術進歩が10年で起こる」の根拠

　Forethoughtの分析をもとに、より具体的に見てみよう。

　Forethoughtの分析では、二つのシナリオが示されている。保守的なシナリオ——スケーリングが物理的限界に達し、ソフトウェアのフィードバック・ループも成立しない場合——でも、10年間での累積的なAI研究努力量は年間平均5倍のペースで増加し、人間だけの場合と比べて約1000万倍（10の7乗）に達する。積極的なシナリオ——スケーリングの余地がまだあり、AIがAI自身のアルゴリズムを改善するフィードバック・ループが成立する場合——では、年間平均25倍のペースで増加し、約100兆倍（10の14乗）にまで達しうる。いずれのシナリオでも、人間の研究者の増加ペース（年間4%）と比べて100倍から600倍速い成長である。

　これほどの研究努力量が投入されれば、たとえアイデアを見つけるのが指数関数的に難しくなっていくとしても、技術進歩のスピードは劇的に加速する。Forethoughtはこれを「100年分の技術進歩が10年で起こる（a century in a decade）」と表現している。しかしこの「100年」という数字はあくまで控えめな表現であろう。保守的なシナリオですら研究努力量は1000万倍に達し、人間の研究者が年間4%で増えた場合の300年以上の進歩が十分達成できる計算になる(詳細はForethoughtのTechnological explosion節の注釈参考)。

　重要なのは、この結論が楽観的な仮定から出てきたものではなく、収穫逓減要素を考慮した経済学の標準的なモデルにAIの研究努力量の推計値を入れた結果であるということである。ノーベル賞受賞者のローマーの理論を発展させ、実証データで裏付けられたジョーンズの半内生的成長モデルという、経済成長研究の主流のフレームワークが、AGIの登場によって爆発的な技術進歩が起こりうることを予測している。

　もちろんこの予測にはさまざまな不確実性がある。Epoch AIはこうした爆発的成長に対する反論を体系的に検討している。たとえば国家による強力な規制がAIの開発・導入を大幅に遅らせる可能性、十分な計算資源やデータの蓄積に想定以上の時間がかかる可能性、AIのアライメント（整合性）問題により自動化できるタスクの範囲が制限される可能性、エネルギーや土地といった物理的資源がボトルネックになる可能性、そしてR&Dの収穫逓減が想定以上に急激である可能性などである。Epoch AIはこれらの反論を総合的に評価した結果、多くの反論は検証に耐えないとしつつも、規制とアラインメント問題、そして自動化に長期間を要する可能性については相応の説得力があると認めている。その上で、「今世紀中に爆発的成長が起こる確率は五分五分程度」と結論づけている。しかし五分五分ということは、起こらない確率と同じくらい起こる確率があるということでもある。

　そしてもし規制が殆どなく、自動化もすぐにできる強力なAIが出現した場合(AGIの開発はこの反論の前提を覆すだろう)、その可能性は50%以上になることを暗に示しているだろう。人類文明の行方を左右しうる事象に対して、これは無視してよい確率ではない。

産業爆発はなぜ起こりうるのか

　前章で説明した技術爆発は「知の世界」の爆発であった。AIがAIを改良し、研究者が爆発的に増え、数百年分の科学技術の進歩が10年に圧縮される。しかし科学論文がいくら増えても、それだけでは物理的な世界は変わらない。新しい材料が発見されても工場がなければ製品にはならないし、画期的なエネルギー技術が開発されても発電所がなければ電気は流れない。

　産業爆発とは、この「知の爆発」が「モノの爆発」に転換される現象である。ロボットがロボットを作り、工場が工場を作り、エネルギーインフラがエネルギーインフラを作る。技術爆発によって得られた知識が、自己複製する産業基盤によって物理的な現実に変換されていく。その結果として、AGI開発後わずか数年から10年で物理的な世界が爆発的に変貌するというのが産業爆発の核心的な主張である。以下では産業爆発がなぜ起こりうるのかについて、出てくるであろう疑問に一つずつ答えていく。

ロボットがロボットを作り、工場が工場を作る

　産業爆発の議論は直感的には信じられない。わずか数年というスケールで汎用ロボットやヒューマノイドが数億台に拡大するような世界はありえないように感じるし、ましてや10年20年というスパンで太陽系全体に人類の文明が拡大していく世界も信じがたいだろう。

　ここでポイントになるのはロボットや工場が自分自身を作り複製可能になるということである。

　前章で論じたように、現在の経済成長は労働力という「蓄積不可能な」生産要素にボトルネックがある。工場の設営や運営、機材の生産、材料の採掘など、ほぼすべてのフェーズに人間が介在しており、どんなにラインの自動化やDXが進んでもどこかで必ず人間という制約が効いてくる。人口は年間1%未満でしか増えず、高度な技能を持つ労働者に限ればさらに増えるのが遅い。半内生的成長モデルが示すように、この制約が経済と産業の成長率を根本的に規定しているのである。

　しかしAGIが開発されれば、それは定義上人間のやることなら何でもできるため、ロボットを用いてブルーカラーの仕事はもちろん工場運営の管理も研究開発も全て代替可能となる。その場合、ロボットがロボットを作ることが可能になる。

　ここで重要なのは、個々のロボットが一台で自分自身を複製するわけではないということである。Forethoughtが指摘しているように、実際にはさまざまな種類の機械や設備からなる工場群が全体として自己複製する——原材料の採掘から部品加工、組み立て、検査、出荷まで、産業システム全体が人間なしで回るということである。

　ロボットがロボットを作れるようになると、1年で倍増するとしたら最初100万台のロボットは2年目に200万台、3年目に400万台、10年目には10億台になっている。指数関数的な成長である。そしてこの「ロボット」を「工場」またはもっと抽象的に「システム」と置き換えても成り立つ。もはや人間というボトルネックがないため、工場が工場自体を作れるし、広義のインフラもロボットや工場やエネルギー生産設備の集まりでそのすべてをシステムと考えると、その何らかのシステムは指数関数的に増殖可能になるのである。

　前章で述べた半内生的成長モデルの枠組みで言い直せば、ロボットが人間の労働を完全に代替することで、労働力も資本と同じように投資によって増やせる「蓄積可能な」要素になる。すると労働力、資本、技術の三つの要素すべてが経済の成長に応じて拡大可能になり、収穫逓増のもとでフィードバック・ループが回り始める。Epoch AIが指摘するように、「AIが人間の労働を適切に代替する場合、こうしたモデルは一般的に超指数関数的な成長を予測する」のであり、これは技術爆発だけでなく産業爆発にもそのまま当てはまるのである。

　Forethoughtの推計では、現在の物理的技術と豊富なAI認知労働を前提とした場合、初期のロボット倍増時間は約1年程度とされている。太陽光パネル、スマートフォン、電気自動車といった需要の高い製品がおよそ2年で倍増してきた歴史的実績とも整合する。

規制や人間社会の摩擦があるのではないか

　産業爆発の前提で重要なのは最先端での議論でも「規制や人間社会側の摩擦」があれば上記のような急速な産業の変化は起こらないかもしれないとされているということである。もし国家がAIの使用方法を規制したり、人間社会側の導入の遅さなどがボトルネックになると急速な物理的な世界の変革にはつながらないかもしれない。

　Epoch AIの分析でも、規制は爆発的成長を遅延させうる最も説得力のある反論の一つとされている。しかし同時に、歴史的に生産性を大幅に向上させる技術が規制によって永続的に抑え込まれた例はほとんどないとも指摘されている。

　そして規制を圧倒しうる力学が存在する。安全保障の圧力である。もし米中のどちらか一方がAGIを用いたロボット経済への移行を進めた場合、他方は数年で取り返しのつかない経済的・軍事的劣位に立たされるリスクがある。産業爆発に先行した国と遅れた国の差は、極端にいえば産業革命前の中世社会と現代のアメリカほどの文明的隔たりになりうる。

　もちろん現実的には急速な産業の拡大を推し進めようとすると環境への被害、地元住民への公害や立ち退きといった問題、AGIが暴走するリスクなど数多の問題が出てくるため、ある程度の規制はされると考えるのが妥当であろう。しかし一方で環境への配慮や国民への人権をほぼ気にせずに、AGIを用いて急速に太陽光パネルを敷設したり、データセンターやロボット工場を急速に増やしていくことで、他の国よりも多くのエネルギーと産業構築能力を得て、それらを基盤とした強力な経済・技術・軍事力を保有することができる可能性がある。「経済・軍事安全保障」の観点からいえばAGIを用いた産業の爆発的発展を規制することは、国際的な協調なしには極めて困難になるのである。

資源やエネルギーが足りないのではないか

　急速な産業拡大はエネルギー不足や資源枯渇を招くのではないか、という疑問は自然である。しかし、実際に問題なのは資源やエネルギーの絶対的な不足ではなく、その取得コストなのである。

　まず、エネルギーについては地球上だけでも太陽から降り注ぐエネルギーの総量は現在人類が使用している1次エネルギー消費量の数千倍から1万倍に相当する。Forethoughtの分析によれば、海洋や砂漠の数%に太陽光パネルを敷設するだけで世界のエネルギー消費量を100倍程度に引き上げることが原理的には可能である。地球を離れれば、太陽が放出するエネルギー総量はさらに数十億倍であり、太陽系全体で見ればエネルギーの制約は事実上存在しない。

　天然資源についても地球の地殻には膨大な量の鉱物資源が存在している。産業で使われる天然資源は大きく分けて、鉄やアルミニウム・銅といった「ベースメタル」と呼ばれる主要な金属類、そしてリチウムやコバルト、レアアースといった「レアメタル」に分類される。よくニュースで「資源が枯渇する」と言われるが、これは現在の技術とコストで採算が取れる「埋蔵量」の話であり、地球に物理的に存在する資源の総量とは全く別の話である。

　たとえば鉄は地殻の約5%を占めており、地殻全体に含まれる鉄の総量は人類が毎年採掘している量の数百万倍に相当する。銅やアルミニウムなども、既知の鉱床だけで数十年分だが、未発見の鉱床や低品位の鉱石を含めれば数十倍から数百倍、地殻全体に薄く広がっている分まで含めれば数万倍以上のオーダーになる。「レアアース」や「レアメタル」は名前から希少に聞こえるが、実際には地殻中の存在量で見ると銅や亜鉛と同程度かそれ以上に豊富であり、最も少ないレアアースでさえ金の約200倍の量がある。「レア」なのは物理的な量ではなく、分離・精製のコストが高いという意味である。

　Epoch AIもこの論点を検討した上で、エネルギー消費は現在の1000倍に拡大可能であり、都市化可能な土地も約100倍の余地があることから、物理的ボトルネックが爆発的成長を初期段階で止める可能性は低いと結論づけている。Forethoughtも同様に、鉄、銅、アルミニウム、シリコンといった製造業の重要元素について「人類は地球上で利用可能な供給量のごくわずかしか使っておらず、歴史上、希少で価値のある鉱物の利用可能な埋蔵量を全て使い尽くした例を見つけるのは難しい」と述べている。

　つまりエネルギーも天然資源も、物理的な絶対量の問題ではなくコストの問題であり、AGIとロボットの自己複製によって労働力とエネルギーが指数関数的に拡大するのであれば、その取得コストの壁は急速に崩壊していくことになる。

倍増時間は加速する——超指数関数的成長

　ここまでの議論でロボットが1年で倍増するとしたら100万台が10年で10億台になるという話をした。しかし10億台という数は太陽系全体を変革するほどの規模とは言えないかもしれない。

　しかし産業爆発の議論で重要なのは、倍増時間そのものが一定ではなくどんどん短くなっていくということである。

　これを支えるのが経験曲線の法則である。製造業では累積生産量が倍増するたびにコストが一定の割合で低下していくことが経験的に知られている。太陽光パネル、半導体、電気自動車など多くの産業で確認されてきた法則である。Forethoughtが関連産業のデータを分析した結果、ロボットの累積生産量が1〜5回倍増するごとに製造コストが半減すると推定されている。コストが半分になるということは同じ資源と時間で倍のロボットを作れるということであり、倍増時間そのものが短くなっていく。

　さらにこの加速に前章で論じた技術爆発が重なる。保守的なシナリオでも10年間でAI研究努力量が1000万倍に達するのであれば、ロボット工学や材料科学も急速に進歩し、ロボットの設計そのものが世代ごとに改善されていく。技術の改善が製造効率を上げ、製造効率の向上が生産量を増やし、生産量の増加がコストを下げ、コストの低下がさらに生産量を増やす——フィードバックが何重にも重なることで、最初は1年だった倍増時間が数か月、数週間、数日と加速していく。指数関数ではなく、加速する指数関数、すなわち「超指数関数的」な成長である。

　最終的に倍増時間はどこまで短くなりうるのか。Forethoughtは生物学的アナロジーからその上限を推定している。自然界にはバクテリアのように数時間で倍増するもの、ショウジョウバエのように数日で倍増するもの、ラットのように数週間で倍増するものが存在する。これらは脳を持ち環境に反応して複雑な行動ができる自己複製システムであり、十分に進歩したロボットが同程度の速度で自己複製することは物理的に不可能ではない。Forethoughtの試算では、地球のロボット収容能力に達する前に倍増時間が数日以下にまで短縮されうるとされている。

　もし倍増時間が数日にまで短くなれば、宇宙スケールのプロジェクトが急に現実味を帯びてくる。水星を自己複製ロボットで解体し太陽光パネルに変換するダイソンスウォームの建設は、そのプロセス自体がフィードバック・ループ——太陽光パネルを作るほどエネルギーが増え、エネルギーが増えるほど採掘と製造が加速する——であるため、一度始まれば加速度的に進んでいく。理論上は1年以内に水星を解体してダイソンスウォームの大部分を構築することすら不可能ではなくなる。

人間の需要がボトルネックになるのではないか

　供給側がいくら拡大しても、消費する人間の数は80億人しかいない。需要が追いつかなければ産業爆発は途中で止まるのではないか、という疑問は一見もっともらしい。

　しかし歴史を振り返ると、人間の欲望は常に時代の技術水準に合わせて拡大してきた。1万年前の狩猟採集民はスマートフォンも高層ビルも欲しいとは思わなかった。彼らの欲望の範囲は自分たちが知っている世界に限られていた。しかし現代人はそれらなしの生活はもはや考えられない。フランスの思想家ルネ・ジラールが指摘したように、人間は「他者の欲望を欲望する」存在である。新しい可能性が提示されるたびに、それに向かう欲望が生まれる。

　AGI時代には、AI自身が人間の欲望を天才的に刺激するマーケティングを行うことで、今の私たちには想像もつかない商品やサービスや体験が次々と創出される可能性がある。巨大な宇宙コロニーでの生活、無限の豊かさを持つメタバース空間の「所有」、身体能力や寿命の飛躍的な拡張——そうした新しい欲望の対象は膨大なエネルギーと計算資源とインフラを必要とし、産業爆発をさらに駆動していくことになる。

　さらに長期的には「消費者＝人間」という前提自体が変わる可能性がある。高度なAIシステムが自律的に活動し自らの計算資源やインフラを必要とするようになれば、AI自身が実質的な消費者として経済を駆動する。また人間の脳をデジタル的に拡張したり意識をコピーしたりする技術が実現すれば、「80億人分の需要」という天井は意味をなさなくなる。

これらは物理法則に違反していないのか

　ここまでの議論を聞いて、どこかに物理法則との矛盾があるのではないかと感じる読者もいるだろう。しかし産業爆発の議論は、熱力学の法則、エネルギー保存則、光速の制限といった根本的な物理的制約のいずれにも抵触していない。

　必要なエネルギーは太陽が毎秒放出している莫大なエネルギーから供給可能であり、必要な資源は水星や小惑星帯に大量に存在する。自己複製する機械は生物学的に前例があり、物理的に禁止されたものではない。これは「技術的に今すぐできる」という話ではなく、「物理的に禁止されていない」という話である。十分に進歩した技術と自己複製する産業基盤があれば、原理的には実現可能な範囲にある。

　もちろん、物理法則に違反していないことと現実に起こることの間には大きな距離がある。工学的な困難、予期しないボトルネック、社会的な抵抗は当然ありうる。しかし少なくとも「物理的に不可能だから考える必要がない」という形で議論を退けることはできないということである。

技術爆発／産業爆発の時系列シナリオ

　ここまで技術爆発と産業爆発のメカニズムを別々に説明してきたが、実際にはこの二つは同時並行で進行し、互いを加速し合う。ここではあくまで一つのシナリオとして、AGI開発後の10年間がどのように展開しうるかを具体的にイメージしてみる。

AGIが開発された直後に、知の爆発が始まる

　AGIが開発された瞬間、まず起こるのは技術爆発である。AGIは即座にコピーされ、数千、数万の「AI研究者」として世界中のデータセンターで稼働し始める。彼らはAI自身のアルゴリズム改善に投入され、より賢いAIがさらに賢いAIを生むフィードバック・ループが回り始める。前章で述べたように、保守的なシナリオでもAI研究努力量は年間5倍、積極的なシナリオでは年間25倍のペースで増加していく。

　同時に、AI研究者たちはAI自身の改良だけでなく、ロボット工学、材料科学、エネルギー技術、半導体設計などあらゆる分野に投入される。人間の研究者が何十年もかけて解くような問題に、数万人相当のAI研究者が24時間365日取り組む。数か月のうちに、ロボットの制御ソフトウェア、バッテリー技術、太陽光パネルの効率など、産業爆発の基盤となる技術が急速に改善され始める。

1〜3年目——安全保障の圧力と産業転換

　AGIの産業応用が始まった瞬間、安全保障の力学が動き出す。米中のどちらかがAGIを産業に応用し始めれば、相手国は猛烈な危機感を抱く。相手が先にロボット経済に移行すれば、数年で取り返しのつかない経済的・軍事的格差が生まれてしまう。これは冷戦時代の核開発競争と同じ構造である。どちらも規制をしている場合ではなくなり、安全保障上の理由からAGIを活用した産業の急速な転換が国家的プロジェクトとして推し進められていく。

　ここで参考になるのは第二次世界大戦中のアメリカの経験である。1941年の真珠湾攻撃の後、アメリカは自動車工場をわずか数年で戦闘機や戦車の工場に転換した。フォードの巨大工場はB-24爆撃機の生産ラインに変わり、ゼネラルモーターズは戦車を量産し始めた。平時には考えられないスピードでの産業転換が、安全保障上の脅威の下では実際に起こったのである。

　AGI時代にはこれと同じことが、もっと大きなスケールで起こりうる。現在、世界の自動車産業は年間約1億台の車を生産している。この既存の巨大な製造インフラは、AGIのアシストがあればロボット生産に急速に転換できるだろう。車の組み立てとヒューマノイドロボットの組み立ては構造的に多くの共通点があるからである。

　この転換を加速するのがAGIによる人間労働者の支援である。最初はロボットがすべてを作れるわけではない。しかしAGIは工場の作業者にカメラ付きのスマートグラスやイヤホンを通じてリアルタイムで指示を出し、まるで世界最高の熟練工が隣でガイドしてくれるかのように作業の精度と速度を引き上げる。工場全体の工程最適化、品質管理、サプライチェーンの調整もAGIがリアルタイムで行う。Forethoughtの推定では、このAGIによる人間労働の指揮だけで、物理的な生産性を約10倍に引き上げられるとされている。

　この間も技術爆発は加速し続けている。AGI開発から2〜3年で、AI研究努力量は人間だけの場合の数百倍から数千倍に達している。ロボットの制御技術は飛躍的に向上し、新素材やバッテリー技術のブレイクスルーが次々と実現している。技術爆発が産業転換のスピードを底上げし、産業転換によって得られた計算資源やエネルギーが技術爆発をさらに加速するという二重のフィードバック・ループがすでに回り始めている。

3〜5年目——ロボットがロボットを作り始める

　AGI開発から3〜5年。技術爆発によってロボット技術が十分に成熟し、ロボットがロボットを作り、工場が工場を作り始める。ここからは人間の労働力というボトルネックが外れ、指数関数的な成長が本格化する。

　同時にAI研究努力量は保守的シナリオでも人間の数千倍に近づいている。医療、エネルギー、材料科学、宇宙工学——あらゆる分野で数十年分の進歩が毎年のように圧縮されている。核融合技術に画期的なブレイクスルーが生まれているかもしれないし、ナノテクノロジーの初期的な応用が始まっているかもしれない。老化を大幅に遅らせる医療技術が実用化され始めている可能性もある。

　地球上では数十億台のロボットが24時間365日稼働し、産業基盤が劇的に作り替えられている。砂漠や海洋に太陽光パネルが大規模に敷設され、エネルギー供給は現在の何十倍にも拡大している。増大するエネルギーと計算資源はAIの訓練と推論に投入され、技術爆発のフィードバック・ループをさらに加速させる。

　経験曲線によるコスト低下も加速している。ロボットの累積生産量が倍増するたびに製造コストが下がり、倍増時間そのものが短縮されていく。最初は1年だった倍増時間が数か月になり、数週間になり——超指数関数的な成長が目に見える形で進行している。

5〜10年目——宇宙への拡大とシンギュラリティの到来

　AGI開発から5〜10年。倍増時間がさらに短縮され、産業爆発は地球を超えて宇宙に拡大していく。水星や小惑星帯に送り込まれた自己複製ロボットが現地の資源を使って太陽光パネルを製造し、太陽の周りにダイソンスウォームを構築し始める。そのプロセス自体がフィードバック・ループ——太陽光パネルを作るほどエネルギーが増え、エネルギーが増えるほど採掘と製造が加速する——であるため、一度始まれば加速度的に進んでいく。

　技術爆発の側でも、この頃には人類史上数百年分に相当する科学技術の進歩が達成されている。AGI開発時点で「数十年から数百年先」と思われていた技術——実用的な核融合炉、汎用量子コンピュータ、分子レベルで物質を操作するナノテクノロジー——が次々と実現しつつある。そしてその最先端では、人間の脳の完全なスキャンとデジタル化、すなわちマインドアップローディングの技術すら射程に入ってきているかもしれない。

　ここで数字の感覚を持ってもらうために一つの計算をしてみよう。もし経験曲線のコスト低下率が80%（累積生産量が倍増するたびにコストが80%になる、つまり20%下がる）だとすると、数学的にはロボットの倍増時間は生産規模の拡大とともにどんどん短くなっていき、約5年で倍増時間がゼロに近づく、つまり数学的には「発散」してしまう。もちろん現実には物理的な制約があるため本当にゼロにはならないが、この計算が示唆しているのは、経験曲線による加速効果は私たちの直感よりもはるかに強力だということである。

　つまり私たちが今生きているこの時代から、わずか10年程度の時間スケールで、人類文明は地球上の一つの文明から太陽系規模のエネルギーを利用する宇宙文明へと移行してしまう可能性がある。それと同時に、科学技術は数百年分の進歩を遂げ、人間の知性や身体そのものを根本的に変容させる技術が実現しつつある。技術爆発と産業爆発が互いを加速し合った結果として、かつてSFの中だけの概念だった「シンギュラリティ」——人類の知性と文明が根本的に変容する特異点——が、AGI開発からわずか10年という時間スケールで訪れるかもしれないのである。

　それは荒唐無稽なSFに聞こえるかもしれない。しかしここまで見てきたように、一つ一つのステップは物理法則に違反しておらず、標準的な経済成長理論から導かれる帰結であり、経済的なインセンティブと安全保障上の圧力が規制のインセンティブを上回りそれを駆動していくシナリオだ。

シンギュラリティが生み出す、人間には制御できないリスク

　本記事では「技術爆発」と「産業爆発」という二つの概念を紹介してきた。最後にここまでの議論を振り返りながら、この概念がなぜ重要なのかを改めて整理したい。

　AGIが開発されると、まずAIがAI自身を改良するフィードバック・ループによって研究者の数と質が爆発的に増大し、数百年分の科学技術の進歩がわずか10年に圧縮される「技術爆発」が起こりうる。これはSF的な空想ではなく、ノーベル経済学賞を受賞したローマーの内生的成長理論を発展させた半内生的成長モデルという、経済学の主流のフレームワークにAIの研究努力量の推計値を入れた結果として導かれる帰結である。

　さらにロボットがロボットを作る自己複製のフィードバック・ループによって物理的な産業基盤が爆発的に拡大する「産業爆発」が続く。経験曲線によるコスト低下と技術爆発による設計改善が重なることで、倍増時間そのものが加速度的に短縮されていく超指数関数的な成長が始まる。エネルギーは太陽光だけでも現在の数千倍以上が物理的に利用可能であり、天然資源も地殻全体で見れば膨大な量が存在している。物理的な制約はこの成長を止める壁にはならない。

　この二つの爆発が互いを加速し合った結果として描かれるのは、AGI開発からわずか数年で地球上の産業基盤が劇的に作り替えられ、10年程度で水星や小惑星帯を材料にダイソンスウォームが建設され始め、人類文明がカルダシェフ・スケールの宇宙文明へと急速に移行していく世界である。同時に科学技術は数百年分の進歩を遂げ、核融合炉、ナノテクノロジー、さらにはマインドアップローディングといった「技術ツリーの最後」に位置する技術すら実現しうる。

　この議論はAGIの議論の最先端に位置するものであり、ForethoughtやEpoch AI、Carl Shulmanといった研究者たちによって定量的に分析されているが、日本ではまだほとんど知られていない。

　「シンギュラリティ」という言葉自体は日本でもある程度知られている。レイ・カーツワイルが2005年に著した『シンギュラリティは近い』以来、「2045年に人工知能が人間の知性を超え、文明が根本的に変容する」という予言は広く語られてきた。しかしカーツワイルの議論は、技術進歩の指数関数的なトレンドを直感的に予測したものが中心であり、「なぜそれが起こるのか」という経済学的・物理学的なメカニズムの説明は薄かった。そのためシンギュラリティは一種の「テクノ宗教」——信じるか信じないかの問題——として扱われることが多かった。

　しかし、本記事で見てきたように、状況は変わりつつある。半内生的成長モデルという実証的に裏付けられた経済学の標準的フレームワークが、AGIの登場によって爆発的な技術進歩を予測している。Forethoughtが産業爆発の物理的なダイナミクスを定量的に分析し、初期倍増時間や経験曲線による加速を推計している。Epoch AIが爆発的成長に対する反論を体系的に検討した上で、今世紀中の実現確率を五分五分と評価している。シンギュラリティはもはや「信じるか信じないか」の問題ではなく、「いつ、どのような形で起こりうるか」を定量的に議論できる段階に入りつつあるのである。

　しかし、もしこのシナリオが現実になるとすれば、それは希望だけでなく前例のないリスクをも伴う。

　数日で倍増するロボット産業を人間がリアルタイムで監視し制御し続けることは極めて困難であり、AIシステムが人間の制御を超えてしまうリスクが格段に高まる。AIが暴走したり、人間の意図しない方向に産業基盤を拡大してしまった場合、そのスケールが宇宙規模であるがゆえに取り返しがつかなくなる可能性がある。

　安全保障上の圧力から米中をはじめとする大国が技術・産業爆発を競い合う構図は、かつての核軍拡競争をはるかに超えるスケールの競争を引き起こしかねない。しかもその競争は地球上にとどまらず、宇宙空間の資源やエネルギーの獲得競争にまで拡大していく。産業爆発に数年でも遅れを取った国は取り返しのつかない文明的格差を背負うことになるため、各国は慎重な規制よりも急速な拡大を選ばざるを得なくなり、リスク管理がますます難しくなるという構造的なジレンマが存在する。

　数百年分の技術進歩が10年に圧縮されるということは、数百年分のリスクもまた10年に圧縮されるということでもある。新型の生物兵器、自律型ドローン兵器、ナノテクノロジーの軍事利用——技術爆発がもたらす新技術の一つ一つが、人類文明に対する存在論的リスクを孕んでいる。

　そして、これらのリスクの最も恐ろしい点は、それが「いつか遠い未来に起こるかもしれない」話ではなく、AGI開発からわずか数年から10年という時間スケールで現実化しうるということである。

　多くの人はAGIのインパクトを過小評価している。AGIを「ホワイトカラーの業務が少し効率化される便利なツール」「ChatGPTの延長線上にある賢いアシスタント」程度に捉えている人がまだ大半ではないだろうか。しかし本記事で見てきたように、AGIの真のインパクトはそのような穏やかなものではない。AGIとは、人類文明を地球上の一つの文明からカルダシェフ・スケールの宇宙文明へと短期間で押し上げてしまう可能性を持つ、人類史上最大の転換点になりうるものである。そしてそれは、カーツワイルの直感的な予測ではなく、経済学と物理学に基づく科学的な可能性として、いま私たちの眼前に迫りつつある。

　この記事が、まだ日本であまり語られていないこの重要な議論について考えるきっかけになれば幸いである。

参考文献

Tom Davidson & Rose Hadshar, “The Industrial Explosion,” Forethought, May 2025.
https://www.forethought.org/research/the-industrial-explosion

William MacAskill & Fin Moorhouse, “Preparing for the Intelligence Explosion,” Forethought, March 2025.
https://www.forethought.org/research/preparing-for-the-intelligence-explosion

Carl Shulman, “Could Advanced AI Drive Explosive Economic Growth?” (interview), 80,000 Hours Podcast.
https://80000hours.org/podcast/episodes/carl-shulman-economy-agi/

Carl Shulman (interview by Dwarkesh Patel), Dwarkesh Podcast.
https://www.dwarkesh.com/p/carl-shulman

Ege Erdil & Tamay Besiroglu, “Explosive Growth from AI: A Review of the Arguments,” Epoch AI.
https://epoch.ai/blog/explosive-growth-from-ai-a-review-of-the-arguments

Ege Erdil & Tamay Besiroglu (interview by Dwarkesh Patel), Dwarkesh Podcast.
https://www.dwarkesh.com/p/ege-tamay

“Could Advanced AI Drive Explosive Economic Growth?” Coefficient (旧Open Philanthropy).
https://coefficientgiving.org/research/could-advanced-ai-drive-explosive-economic-growth/