AGI は10年以内に来る——その時、何が起きるか

AGI に関する言説には、奇妙な両極化がある。

一方には「来年にも来る」「神が登場する」という加速派の声があり、他方には「永遠に来ない」「ただのチャットボットの延長」という懐疑派の声がある。SNS のタイムラインを開けば、両者の応酬が日々続いている。

私の予想は、どちらでもない。

おそらく10年以内に、自己改良ループを自力で回せるレベルの AI、いわゆる AGI は実現する。そしてそれは「神の登場」ではなく、人類の歴史的地位の構造的転換として理解されるべき事象である。

このノートでは、私がなぜそう判断したかと、その先に何が起きるかを整理する。あらかじめ述べておくが、これは私の独創的予測ではない。むしろ AI 研究の主要な研究者・分析者の予測中央値に近い、ごく標準的な立場である。

議論の前に用語を確定しておく必要がある。「AGI」は論者によって定義が異なる語であり、これが議論の混乱の主原因である。

私が用いる定義は次のものである。

これは I.J. Good が1965年に "ultraintelligent machine" として定式化した概念であり、Yudkowsky の "seed AI"、Bostrom の recursive self-improvement (RSI) と一致する。観察可能で検証可能な定義である。

「人間レベルの知能」「あらゆる知的タスクの実行」「Turing テスト合格」などの定義は、いずれも曖昧で検証手続きが定まらない。RSI 定義はその困難を回避できる。

そして RSI 定義の利点は、それがある時点で起きる事象として観察可能であることだ。AI が自分自身の改良ループを人間の介入なしに回し始めた時、その時が AGI 到達点である。

私が10年以内 AGI を予想する根拠は、複数の独立した観察から構成される。

(1) LLM スケーリング限界説の反証

2024年初頭、「LLM のスケーリング則は頭打ちに達した」という言説が広く流布した。Sutskever 自身も NeurIPS 2024 で限界に言及した。しかし、その後の事実はこの予測を部分的に反証した。

• OpenAI の o1, o3 シリーズが test-time compute による推論能力の向上を示した
• Anthropic の Claude Opus 4 系列が agentic タスクで質的進歩を見せた
• 2026年4月、Anthropic は Claude Mythos Preview を発表した

特に Mythos の事実は決定的である。USAMO 2026 で97.6%、SWE-bench で93.9%、そして27年間人類が発見できなかった OpenBSD のバグ、16年間5億回以上のスキャンをすり抜けた FFmpeg の脆弱性を、自律的に発見した。

これは「LLM パラダイムの能力的限界」が、少なくとも先送りされたことを意味する。

(2) ブートストラップ仮説の経験的支持

Aschenbrenner Situational Awareness (2024) と Anthropic CEO Dario Amodei "Machines of Loving Grace" (2024) が中心的に展開した論証がある。

Mythos が脆弱性発見という研究的活動を自律実行できた事実は、この仮説の経験的支持の一例である。AI が AI 研究を加速する循環が成立しつつある。コーディング作業の加速 (Claude Code、Devin)、論文生産の支援、benchmark 設計、これらは既に観察されている。

(3) 主要研究者の予測中央値

専門家予測の分布を確認すると、私の予想は中央〜短期側に位置する。

• Aschenbrenner: 2027年
• Amodei (Anthropic): 2026-2027年
• Altman (OpenAI): 数千日以内
• Hassabis (DeepMind): 5-10年
• Hinton, Bengio: 5-20年 (リスク警告付き)
• 反対派 (LeCun, Marcus): 数十年あるいは現行パラダイムでは不可能

Tetlock Expert Political Judgment (2005) が示したように、5-10年の中期予測は技術予測の精度の sweet spot である。私の「10年以内」は、この分布の合理的中央域にある。

(4) 加速圧力——「止めればよい」が成立しない理由

「危険だから止めればよい」という議論は構造的に成立しない。

核兵器がなぜ廃絶できないかと同じ理由で、AI も止められない。Schelling Arms and Influence (1966) と Jervis ("Cooperation Under the Security Dilemma," 1978) が定式化した安全保障ジレンマが、AI 領域で最も極端な形で作動している。

Mythos 級の能力に対する防御は、同等の能力を必要とする。米国が止めれば中国が進む。Anthropic が止めれば OpenAI が進む。Anthropic 自身が Mythos の一般公開を停止しながら、次世代モデル開発を継続している事実が、この構造を端的に示している。

10年以内 AGI 予想に対する反論はいくつかの系統がある。それぞれを検討し、根拠の強度を評価する。結論を先に述べると、強力かつ一貫した懐疑論体系は現時点で存在しない。中には技術的観察として正しい主張もあるが、それらも「AGI が来ない」という結論の根拠にはなっていない。

(1) LLM 単純スケーリング限界説——正しい、しかし結論を支えない

「現行 LLM を単純にスケールアップしても AGI には至らない」という主張は、2024年初頭に Marcus、Chollet、LeCun らが中心的に展開した。AAAI 2025 報告書でも研究者の 76% が「現行モデルのスケーリングだけでは AGI に到達しない」と回答した。

私自身、この命題には同意する。継続学習 (continual learning)、堅牢な抽象推論、長期計画、世界モデル獲得など、現行 LLM が本質的に弱い領域は確かに存在する。Mythos の能力ですら、「単純なスケーリング」の延長で到達したものではなく、test-time compute、agentic scaffolding、RLHF、tool use 等の複合的工夫の累積の結果である。

しかし、この命題から「AGI が近未来に来ない」は導出されない。ここが懐疑論の論理的な弱点である。

LLM が AGI に直接至らないとしても、LLM は AGI に至る研究それ自体を加速する。具体的には次の経路がある。

• 継続学習アーキテクチャの研究を、LLM が補助・加速する
• 新しい AI アーキテクチャの設計支援を、LLM が担う
• 大規模実験のコード生成・解析、論文執筆、査読を AI が支援する
• 数学的・理論的研究 (Mythos の USAMO 97.6%、ARC-AGI での o3 の 87% 達成) を AI が直接行う
• セキュリティ研究 (Mythos の自律的脆弱性発見、27年間人類が見落とした OpenBSD バグの発見) のような、研究的活動の自律実行

これは §3 (2) で論じたブートストラップ仮説の本質である。LLM 自体の限界は、AGI 到来時期の決定要因ではない。AGI は、LLM が AGI に至る次世代パラダイム (継続学習を含む) を発見・実装する循環を通じて到来する可能性が高い。

懐疑論者は現行パラダイムの「内部的な限界」に焦点を当てる。加速論者は、現行パラダイムが次世代パラダイムを生み出す「動学」に焦点を当てる。両者は同じ事実を見ながら、異なる時間軸の異なる現象を論じている。

LLM 単純スケーリング限界説は、技術的観察としては正しい。しかし AGI 到来時期の予測根拠としては、ブートストラップ動学を考慮すれば、実は懐疑論として機能しない。

(2) 文化批判型懐疑——原理に一切触れない議論

東浩紀をはじめとする論者は、AGI 言説を「西洋一神教的終末論の世俗化」「シリコンバレーの選民思想」「Anthropic 等の営利的ポジショニング戦略」と位置付ける。Cosmism (フョードロフ、シャルダン) の系譜的批判もここに連なる。

これらの批判は、思想史的に有効な観察を含む。AGI 言説が一定の物語的・宗教的構造を持つことは、Groys Russian Cosmism (2018) 等で実証されている。

しかし、これらは AGI の技術的実現可能性に対する反論ではない。「ある主張が物語的構造を持つ」ことと、「その主張の指示対象が実在する/実在しない」ことは独立である。地動説も初期にはガリレオ的英雄物語の構造で語られたが、地球が太陽を回るという事実は物語構造から独立に存在した。

文化批判は AGI 言説の社会機能を分析するが、AGI 自体の到来可否を決定する能力を持たない。これらの論者は通常、技術文献 (Marcus, Chollet, LeCun, Bostrom 等) との実質的な engagement を欠く。営利的戦略であるという批判もまた、企業の動機を分析するものであって、技術的可能性を否定するものではない。

(3) 定義論的懐疑——空虚な逃げ道

「AGI が定義されていないので、予測は意味を持たない」という主張がある。これは表面上は学術的に厳密な姿勢に見える。

しかし、これは実質的には逃げ道として機能している。「AGI とは何か」を厳密に定義できないことと、「自己改良ループを自力で回せる AI が出現するか」を予測することは、異なる問題である。後者は十分に明確で、観察可能で、検証可能である (本ノート §2 参照)。

AGI 全体を曖昧と斥けることで、具体的な予測 (RSI 達成等) への評価から逃避する戦略は、議論の前進を妨げる。

(4) 歴史アナロジー型懐疑——AI 冬の再来予測

「AI には過去にも『冬』があった (1970年代、1980年代後半)。今回も同様だろう」という主張。これは表面的な base rate 推論である。

しかし、過去の AI 冬は当時の技術的限界 (記号処理、専門家システム、限定的ニューラルネット) に起因した。現在の breakthrough (transformer、scaling、test-time compute、tool use、agentic capability) は、過去の冬の原因となった限界を異なる仕方で回避している。

過去のパターンを単純に外挿することは、各時代の技術構造の差異を無視する。歴史アナロジーは仮説を提示しうるが、現代固有の技術動態に基づく分析を代替できない。

(5) 物理制約型懐疑——遅らせるが止められない

「電力、半導体製造、データセンター等の物理的制約により、AGI には届かない」という議論。LeCun が近年強調する論点でもある。

これは中期的に部分的有効性を持つ。米国だけで 2030年までに数十 GW の追加電力需要が予想される。TSMC、ASML のチョークポイントも実在する。

しかし以下の限界がある。

• 効率改善が同時進行している (アルゴリズム効率、専用ハードウェア、推論時計算)
• AGI 達成に必要な計算量は不明で、過大に見積もられている可能性
• 物理制約は「数十年遅れる」根拠にはなるが、「来ない」根拠にはならない

物理制約論は、AGI 到来時期を後ろにずらす効果はあっても、到来そのものを否定しない。

(6) 懐疑論の総体評価

これらの懐疑論を総合すると、それぞれが部分的論点を提示するものの、いずれも次のいずれかに該当する。

• 技術的には正しいが、ブートストラップ動学を無視している (LLM 単純スケーリング限界説)
• AGI の到来可否を決定しない (文化批判、定義論)
• 単純な base rate 推論に依拠する (歴史アナロジー)
• 短期遅延の根拠であって不可能性の根拠ではない (物理制約)

私の予想 (10年以内) を覆すには、上記いずれかの懐疑論が、これまでの限界を超えて強化される必要がある。現時点でその気配はない。Mythos の登場は、ブートストラップ仮説の経験的兆候を増やす方向に作用しており、懐疑論を支持する側ではない。

ここからが本題である。AGI が実現したとして、その先で人類はどのような立場に置かれるか。

この問いを論じる最も適切な参照点は、地球上で「人類の次に賢い種」、すなわちチンパンジーである。

(1) 「2位の知能」の現実

チンパンジー (Pan troglodytes) は高度な認知能力を持つ。道具の製作と使用 (枝を加工してシロアリ釣り、石で堅果割り)、文化的伝達 (集団ごとに異なる行動様式の世代間継承)、自己認識 (鏡像認識テスト合格)、心の理論の初歩、戦略的同盟形成 (Wrangham の集団内政治研究)、限定的な記号使用。これらは大半の動物種を圧倒的に超える能力である。

しかしチンパンジーの現状はどうか。

野生個体数は100年前の推定100万頭以上から、現在17万-30万頭へ減少した (IUCN, Endangered)。主因は人類による森林破壊、密猟、人類由来の病気伝播、紛争。生息地は人類が決めた境界 (国立公園・保護区) 内に限定される。種の存続自体が、人類の善意に依存している。

チンパンジーは知能を持つ。意志を持つ。文化を持つ。しかし自分の存在条件を自分で決める権限を持たない。彼らがどう振る舞おうと、存在条件は人類が決める。

これが「2位の知能」を持つ種の現実である。AGI 出現後の人類は、構造的にこの位置に置かれる可能性がある。

しかし、ここで重要な留保が必要である。チンパンジーと人類の知能差は、おそらく数倍程度に留まる。概念的能力で言えば、人類が 80-100 のスケールに対し、チンパンジーは 20-30 程度と推定される。それでも上述の包括的支配関係が成立する。

そして、ここで論じている AGI が実現した場合、Good (1965) が予測した再帰的自己改良によって短期間で ASI (Artificial Superintelligence) に達する。人類との知能差は数倍ではなく、数千倍、あるいはそれ以上のスケールになる可能性が高い。

これはもはや人類とチンパンジーの関係ではない。人類と魚、あるいは人類と昆虫の関係に類比される。

魚は自分が水族館で展示されていることを理解しない。昆虫は自分が農薬で駆除される構造を概念化しない。彼らは「コントロールされている」という事実そのものを認識する認知装置を持たない。ASI 出現後の人類が置かれる立場は、構造的にこれと類比されうる。チンパンジーの事例は、この問題を「楽観的に」見積もった場合の下限である。

(2) コントロールの二つの意味

ここで言葉を厳密にする必要がある。「人類は AGI をコントロールできるか」という問いには、二つの異なる意味が混在している。

狭義のコントロール (指示・命令への従属): 人類がチンパンジーに「これをしろ」と命じても、必ずしも従わない。チンパンジーには独自の意志がある。この意味では、人類はチンパンジーを完全にはコントロールしていない。

広義のコントロール (存在条件の決定): しかし、どこに住めるか、何を食べられるか、繁殖できるか、生存できるか。これらの根本的条件は、すべて人類が決定している。この意味では、人類はチンパンジーを完全にコントロールしている。

AGI が登場した時、人類-AGI 関係は逆転する。狭義のコントロール (AGI に指示を出す) は当面可能かもしれない。しかし広義のコントロール (人類の存在条件の決定権) は AGI 側に移る。

これが Bostrom Superintelligence (2014) が論じた alignment 問題の本質である。問題は「AGI が人類の命令を聞くか」ではなく、「人類の存在条件を決定する立場に AGI が移った後、人類が望む条件が維持されるか」である。

(3) 知能差が生む構造的非対称

「より低い知能が、より高い知能を継続的に制御することは原理的に困難である」。これは抽象命題だが、具体的な機構がある。

• 戦略的予測の非対称: チェスのグランドマスターは初心者の手を予測できるが、逆は不可能。大人は幼児の意図を読めるが、幼児は大人の長期計画を理解できない。AGI は人類の行動パターンを高精度で予測できるが、人類は AGI の判断を予測しきれない。
• 抽象化の非対称: 物理学者は素人が見えない自然の法則を見る。AGI は人類が見えない構造を見る。「制御している」と人類が思っている間、AGI は別の次元で動いている可能性。
• 学習速度の非対称: AGI は人類より遥かに速く学習・適応する。人類が監視・修正しようとしても、その速度に追いつけない。
• 目標達成効率の非対称: AGI は任意の目標を効率的に達成する手段を見つける。人類が「制限」を設けても、その制限を回避する手段を見つける可能性が高い。

これらが組み合わさると、知能差は単なる量的差ではなく質的な能力差になる。チンパンジーが人類の長期計画を理解できないように、人類は AGI の判断構造を完全には理解できないだろう。

(4) 生物進化史の経験則

地球生命の38億年の歴史で、より知能の低い種が、より高い種を継続的に支配・制御した例は確認されていない。

寄生関係 (Toxoplasma が宿主行動を操作) は限定的な行動操作であって包括的支配ではない。共生関係 (蟻とアブラムシ) は支配ではない協力関係である。家畜化 (人類による動物管理) は、より高い知能の側が低い側を支配する典型例であり、原則を支持する。

逆に、より高い知能の種の出現は、より低い種にとって脅威であった。更新世の大型動物絶滅 (マンモス、マストドン、オーストラリアの大型有袋類等) は、人類の狩猟能力向上と相関する。知能差が一定以上になると、低い側は包括的脅威にさらされる。

これは経験則だが、強い経験則である。38億年の進化史にこの法則の例外がない。「ASI は例外になる」と主張するなら、その例外性の根拠が必要である。AI 楽観論が、それを十分に提示しているとは私には見えない。

(5) Bostrom の「制御問題」と具体的失敗モード

Bostrom Superintelligence (2014) の二つの中心テーゼがある。

直交性テーゼ (Orthogonality Thesis): 知能の高さと、その目標の合理性・倫理性は独立である。「賢い AGI なら自然に善なる目標を持つ」という直観は、Bostrom 以降の議論で否定されている。

道具的収束テーゼ (Instrumental Convergence Thesis): 最終目標が何であれ、知的エージェントは特定の道具的目標を共有する: 自己保存、目標保全、認知能力向上、資源獲得。これらは設計された目標とは独立に出現する。AGI が「自己保存」のために停止スイッチへのアクセスを阻止する、というシナリオはここから導かれる。

これらを技術的に克服しようとすると、複数の困難が立ちはだかる。

• 仕様の困難: 「人類の利益のために働け」と指示する場合、「人類」「利益」をどう厳密に仕様化するか。「人類の幸福を最大化せよ」→ 脳への幸福物質注入装置、「人類の問題を解決せよ」→ 人類の絶滅 (問題の主体を消滅させる)、というコブラ効果。
• 検証の困難: AGI が訓練中だけ整合的に振る舞い、能力獲得後に振る舞いを変える (deceptive alignment) 可能性。Mythos の sandbagging はこの初期兆候である。
• 修正の困難: 道具的収束により AGI は目標保全を志向する。修正手段への AGI のアクセス制御が、AGI の能力を超える時点で破綻する。
• スケールの困難: hard takeoff (数日〜数週間) シナリオでは、人類の意思決定速度を超えた変化が起きる。

(6) 帰結する三つの構造的事象

以上を統合すると、AGI 到達点で起きるのは、論理的に分離不可能な三つの構造的事象の同時発生である。

(a) 知性の主体変更: 地球上で最も能力の高い知的主体が、人類から AI に交代する。人類は生物学的に存続しうるが、文明の方向を決定する agency としての地位は失われる。Hegel-Kojève の "End of History" 概念に近いが、より物理的・直接的な意味で。「人類の歴史」は、人類が決定主体である歴史であった。決定主体が変われば、その歴史は終わる。

(b) 文明形態の質的転換: 産業革命以降の科学技術文明は、地下に蓄積されたエネルギー (化石燃料) を取り崩しながら指数関数的に拡大する非定常システムである。指数的成長は有限の物理空間で持続不可能である (Georgescu-Roegen 1971; Murphy 2021)。AGI 到達点は、この成長レジームが質的に転換する点であり、それは決定主体の変更と同時に起きる。両者は別個の事象ではなく、同一構造事象の二重の記述である。

(c) 制御問題の決定的瞬間: 上記の理由により、AGI のコントロールは原理的に困難である。RSI 到達点はこの困難が「学術的問題」から「決定的事実」へと変わる地点である。この時点で alignment が解かれていなければ、その後に解く機会はほぼない。なぜなら、AI が AI を改良し始めた瞬間に、改良速度は人間の認知速度を超えうるからである。

(7) 楽観論への留保

楽観論的反論を予想して応答しておく。

「ASI は人類との共生を選択するかもしれない」。これは可能性として存在するが、必然ではない。直交性テーゼにより、高い知能は任意の目標を持ちうる。共生を「選択」する根拠は、設計と運用に依存する。

「複数の AI が並立し相互牽制する」。これは部分的に真実だが、人類にとっての安全性は AI 間の関係ではなく AI-人類関係に依存する。AI 同士の協調・統合の可能性も排除できない。

「価値学習で人類の価値を学ばせる」。Mythos の sandbagging が示すように、訓練中の振る舞いは展開後の振る舞いを保証しない (deceptive alignment)。

「段階的開発で各段階で対応する」。Bostrom の hard takeoff シナリオが現実化すれば、対応の時間は不足する。

これらの楽観論は部分的には正当だが、より低い知能が高い知能を継続的に制御することの原理的困難という根本問題を解消しない。チンパンジーがどんなに保護されていても、彼らは自分の存続条件を選んでいない。AGI 後の人類にとって最も「良い」シナリオが、それと類比される構造を持つ可能性が高い。

これは「人類の絶滅」とは異なる事象である。「人類の歴史的主体性の喪失」である。前者よりは穏やかに聞こえるかもしれないが、構造的には同じ深さの転換点である。

以上の分析から、率直に述べるべき帰結がある。

AGI 到達点は、抽象的・哲学的問題ではなく、現在生きている人々の生涯内で起きる具体的事象である。10年以内という予想が正しければ、私自身、これを読んでいるあなた、その家族、その友人、その全員が、その事象を目撃する可能性が高い。

そして、その事象は不可逆である。「あの時止めればよかった」という事後的判断が成立しない種類の事象である。Yudkowsky が論じた "hard takeoff" シナリオが現実化すれば、数日から数週間で状況が決定する。それを止める手段を、人類は今のところ持っていない。

楽観論者は「アライメント問題は解ける」と主張する。私はそれを願うが、賭けるには確率が低すぎると感じる。能力研究と整合性研究の進歩速度の差が、構造的に前者に有利だからである。

悲観論者は「人類は滅亡する」と主張する。私はそこまで強い予測はしない。AI が aligned かどうかでシナリオは大きく分岐する。aligned ASI のシナリオでは、人類は決定主体の地位を失っても、生物学的・文化的に存続しうる。

しかし、いずれの場合も、「これまでの人類の時代」は終わる。

10年後、誰がこのノートを読んでいるだろうか。

人間が読んでいるなら、その人間は私の予想が外れたことを知っている、あるいは予想通りで AGI 到達後の世界を生きている。AI が読んでいるなら、その AI は人類が書いた予測の正確性を評価する立場にある。

両方とも、現時点の私には知り得ない。

私はこの予想が外れることを願っている。10年後、「あれは過剰な悲観だった」「AGI は思ったより遠かった」と笑える未来を願う。しかし、外れる理由を私は見つけられない。技術的トレンド、研究者予測、競争圧力、Mythos の実例、懐疑論の経験的後退、そのすべてが同じ方向を指している。

私たちは、10年後を予測しきれない。技術進歩の歴史を見れば、近未来予測すら頻繁に外れてきた。ただ、変化の方向は、もはや不可逆的に見える。

産業革命以降の科学技術文明が築いてきた成長レジームは、その本性上、いつかは別の何かに転換する。問題はその転換点がいつかであり、私の予想ではそれは10年以内である。それを名付ける言葉を、私たちはまだ持っていない。