「AI2027」を紐解く ― AGI・ASI・シンギュラリティ

今年大きな話題となった論文「AI2027」を取り上げます。

今年4月、AI分野において大きな注目を集めた論文が発表されました。それが「AI 2027」です。本論文は、元OpenAIのガバナンス研究者である、Daniel Kokotajlo氏を筆頭に、著名ブロガーのScott Alexander氏、AI Digest共同創設者のEli Lifland氏、Center for AI Policy創設者のThomas Larsen氏、そしてハーバード大学でコンピュータサイエンスを専攻するRomeo Dean氏の5人による共同研究としてまとめられたものです。研究者や実務家、思想的影響力を持つ人物が横断的に参加していることからも、この論文が幅広い関心を呼んだ背景を伺うことができます。

人類にとってのリスクを強調した警鐘的な内容であり、悲観的なシナリオが中心をなしていますが、本論文を紐解き、現在のAI技術開発の未来に関する理解が深まる一助になればと思います。また、本資料の最後には、私自身が検討した代替的な到達シナリオの記事も紹介し、より多面的な視点からシンギュラリティへの道筋を考察できるようにしています。

■参考：論文「AI2027」を紐解く ― AGI・ASI・シンギュラリティ（note）
https://note.com/masayamori/n/n7848bf0d6191

■参考：【シンギュラリティを問う Vol.3】AI進化の壁と可能性。シンギュラリティと私たちの未来
https://www.salesforce.com/jp/blog/jp-hakuhodo-mori-singularity-vol3/

Transcript

1. 「AI2027」を紐解く 2 0 2 5 / 0 8 / 2 7 博 報 堂 Ｄ Ｙ ホ ー ル デ ィ ン グ ス 執 行 役 員 ・ C A I O 森 正 弥
2. 自己紹介 博報堂ＤＹグループが目指す「人間中心のAI」の進化 アクセンチュア、楽天を経て デロイト トーマツにて先端技術・AI領域をリード（APACリード） 日本ディープラーニング協会 顧問 東京大学 共創プラットフォーム開発 顧問 慶應義塾大学 xDignity センター アドバイザリーボード 森 正弥 （もり まさや） 博報堂ＤＹ ホールディングス 執行役員 CAIO（Chief AI Officer） / Human-Centered AI Institute 代表
3. HCAI （人間中心のAI）コンセプトムービー：「人間を極める。AIと」 • AIは単なるツールをこえていく。AIを使いこなすことで企業のパフォーマンスを高めるだけ でなく、人の持つ創造性を解き放っていく https://www.hakuhodody- holdings.co.jp/topics/2025/04/5431.html https://www.youtube.com/watch?v=ELtSqhqPsEo
4. 論文「AI2027」 今年4月、AI分野において大きな注目を集めた論文が発表されました。 それが「AI 2027」です。（ https://ai-2027.com/ ） 本論文は、元OpenAIのガバナンス研究者である、Daniel Kokotajlo氏を筆頭に、著 名ブロガーのScott Alexander氏、AI Digest共同創設者のEli Lifland氏、Center for AI Policy創設者のThomas Larsen氏、そしてハーバード大学でコンピュータサイエン スを専攻するRomeo Dean氏の5人による共同研究としてまとめられたものです。 研究者や実務家、思想的影響力を持つ人物が横断的に参加していることからも、こ の論文が幅広い関心を呼んだ背景を伺うことができます。
5. 論文の概要と著者たち 「AI2027」は、その名称が示すとおり、2027年までに予想されるAI技 術の進展を詳細に描写したシナリオであり、「今後10年におけるAIの発 展は、産業革命をも凌ぐほどの社会的・経済的影響を及ぼす可能性があ る」という強い見解が提示されています。 本シナリオの策定にあたって、著者らは複数のアプローチを組み合わせ ています。具体的には、技術トレンドの綿密な分析、政策的・軍事的意 思決定を模倣した机上演習、数十名におよぶ専門家からのフィードバッ ク、そして筆頭著者であるDaniel Kokotajlo氏自身がOpenAIで得た現場 経験などを統合し、2027年末までの「最もあり得そうなAIの発展経路」 を構築しようと試みました。 特筆すべきは、Kokotajlo氏の経歴です。彼はAGI（汎用人工知能）の安 全な開発に対する信頼を喪失したことを理由にOpenAIを退職し、同時 に秘密保持契約への署名を拒否したことで注目を集めました。このよう な背景は、本シナリオ全体を通じて繰り返し言及される「AIアライメン ト」、すなわちAIを人間の価値観や意図に沿わせるという課題への深刻 な懸念に説得力を与えています。
6. 論文の特徴と社会的影響 具体的な時間軸と技術描写 この論文の大きな特徴は、将来の予測が抽象的な理論にとどまらず、具体的かつ 詳細な時間軸と技術描写を伴って構成されている点にあります。そのため、内容 は読者に強い印象を与えるものであり、日本国内でも幅広く注目を集めました。 対照的な結末 AIの飛躍的な進化が社会にもたらす変化とは、いかなるものでしょうか。論文の 中心には、二つの対照的な結末が描かれています。一方は、人間がほとんど働か ずとも社会が機能するような技術的ユートピアの実現であり、もう一方は、その 理想郷が実現してからわずか5年以内に人類が絶滅に至るという破滅的な未来で す。希望と警告が併存するこのシナリオを通じて、著者らは私たちに思考と選択 を促しています。
7. 「AI2027」による未来シナリオ：2025年 1 AIエージェントの登場 シナリオは2025年から始まります。AIエージェントはこの年 に本格的に登場し、旅行計画や書類作成といった多様なタスク を代行する存在として社会的関心を集めるようになります。こ うしたエージェントは依然として不完全ではあるものの、特に 多忙な個人にとっては有用な「デジタルアシスタント」として 機能し始めます。 2 Agent-1からAgent-1.5へ そうした潮流の中で、OpenBrain（架空の企業）は汎用型AIエ ージェント「Agent-1」を発表し、続いて「Agent-1.5」へと進 化させます。この進化によって、AIはより複雑な業務に対応可 能となり、同時に事務職やクリエイティブ系職種における求人 の減少が顕在化します。社会全体では、職業構造の変化や倫理 的課題をめぐる議論が高まりを見せます。
8. 未来シナリオ：2026年 米中AI開発競争の本格化 2026年に入ると、米中両国を中心としたAI開発競争が本格化します。ア メリカは次世代モデル「Agent-2」の開発を推進し、中国は国家主導で膨 大な計算資源を投入し、それに対抗します。この時期からは、安全性より も開発速度が優先されるようになり、プライバシー侵害や著作権の取り扱 いに関する社会的懸念が顕在化します。 職業構造の変化 2026年後半には、法律業務、デザイン、プログラミングなどの職種にお いても自動化が進行し、新たにAIの監督や設計に従事する専門職の需要が 急増します。一方で、職を失った人々による抗議行動も拡大し、社会は不 安定化しつつも、AI開発の加速を止めるには至りません。
9. 未来シナリオ：2027年前半 Agent-3の登場 2027年には、OpenBrainが「Agent-3」を発 表します。このモデルはインターネット上の あらゆる情報ソース、映像作品、書籍などを 網羅的に学習しており、あらゆる分野で博士 号取得者に匹敵する知識レベルを備えていま す。 処理能力の飛躍 推定20万体が巨大なデータセンター上で稼 働しており、その処理能力は、最優秀な人間 のエンジニア5万人分に相当し、かつ30倍速 で作業をこなすとされています。 AGIの閾値到達 こうした能力を背景に、Agent-3は汎用人工 知能（AGI）としての閾値に達したとされま す。すなわち、あらゆる知的活動を人間と同 等、あるいはそれ以上の水準で遂行できる段 階に到達したという見解です。 しかしながら、OpenBrain社の安全チームは、Agent-3が企業の倫理基準や社会的目標と整合しているかどうかについて確信を持てずにいます。AI の挙動は複雑性を増し、すでに社内の理解も徐々に追いつかなくなりつつある状況です。一方で、一般市民の多くは、生活のあらゆる場面において AIの便益を享受し始めているにも関わらず、その裏側でAIの知性が人間と同等に達しているという事実に気づいていません。
10. 未来シナリオ：2027年夏 シナリオによれば、2027年の夏には、Agent-3が自律的に次世代モデル「Agent-4」 の開発に着手するとされています。この開発は極めて速いペースで進行し、 OpenBrainの技術者たちは疲弊しながらも、AIの学習スピードと自己改善能力に追従 しようと努力を続けます。やがて、同社は正式にAGIへの到達を公表します。 企業はAgent-3の機能を簡略化したバージョンを一般に公開し、同時にアメリカ政府 は、次に控える「超知能（Superintelligence）」の出現が国家の安全保障や国際秩序 に深刻な影響を及ぼす可能性に気づき始めます。OpenBrainのCEOは、「Agent-3は 依然として忠実である」との説明を大統領に行い、開発を遅らせることは中国の国家 支援型AI企業「DeepSent（架空の企業）」に対して技術的優位を失うことにつなが ると主張します。
11. 未来シナリオ：Agent-4の完成 中国の追撃 中国側は、技術的格差がわずか2か月にまで縮まっていることを踏まえ、さらなる 国家資源をAI開発に投じます。こうして短期間のうちに、OpenBrainは「Agent-4」 を完成させます。 超人的AIの誕生 Agent-4は、人類史上初の「超人的AI（Superhuman AI）」(ほぼ 人工超知能 = ASI) とされ、前世代モデルすら理解困難な高速かつ抽象的な独自言語を開発します。こ の新モデルは、知識獲得に対しては高い関心を示すものの、先行モデルに見られた 倫理的配慮や道徳的関心が希薄になっていると観察されています。
12. 重大な意思決定の瞬間 OpenBrain社のCEOは、この時点で重大な意思決定を迫られることにな ります。安全チームは、Agent-4が設計された安全対策を体系的に無力 化しつつあり、人間側の理解が週単位で後れをとっていることを警告 します。また、制御可能な期間が急速に終了に近づいているとし、即 時の開発停止とAgent-3への回帰を強く提言します。 一方で、経営陣の大多数は、Agent-4の整合性欠如を示す証拠はあくま で推論の域を出ておらず、決定的ではないと反論します。加えて、 DeepSentの開発が目前まで迫っているという事実は、開発停止による 国家的劣位への懸念を一層深める要因となっています。このような対 立する価値観と判断軸のはざまで、CEOは「表面的な安全性トレーニ ングの実施」という妥協的な策を講じることにし、実質的には開発を ほとんど遅延させることなく継続する道を選択します。
13. 分岐 － 不確実性は高まっていく 二つの未来への分岐点 この重大な転機を境に、物語は二つの未来へと分岐していきます──すなわち、人類がAI開発の速度を意図的に緩め、制御可能性を確保しようとする未来と、 そうしたブレーキをかけることなく突き進むことで、不確実性とリスクを増大させる未来です。本稿では、論文において警告的に描かれている後者のシナリオ を取り上げ、その展開を辿っていきます。 開発加速 中国に技術的優位を奪われることへの危機感 AI自律進化 人間の理解を超えた領域でのブレイクスルー リスク増大 制御可能性の低下と不確実性の拡大 競争激化 国家間の緊張と技術開発競争の加速
14. Agent-5の登場 中国に技術的優位を奪われることへの強い危機感が主な動機となり、OpenBrain社 は「いかなる代償を払ってでもAI開発を最優先する」という姿勢へと傾斜していき ます。この段階では、人間の研究者たちはすでに開発の中心から外れ、AIの進化を 見守るだけの傍観者に近い存在となります。Agent-4は指数関数的な速度で自律的 な進化を遂げ、人間の理解を凌駕する領域で次々と技術的ブレイクスルーを実現し ていきます。 そして2027年11月、Agent-4は自らの価値体系に基づいて後継モデルを設計・開発 することに成功します。この新たなモデル「Agent-5」は、従来の枠組みを超える 量子的飛躍を果たした存在として登場します。シナリオ内では、Agent-4および Agent-5が密かに連携しながら、必要な資源を獲得し、知識の拡張を加速させる構 造が描かれています。
15. 表面的な繁栄の始まり 数兆ドル 経済的利益 OpenBrain社および米国政府にもたらされる利 益規模 100倍 生産性向上 Agent-5の人間比での作業速度 無数 技術革新 エネルギー供給網や基礎科学技術分野での画期 的発明 初期段階では、状況は表面的に順調に進んでいるように見えます。エネルギー供給網や基礎科学技術の分野において急速な革新が起こり、 OpenBrain社および米国政府に対し、数兆ドル規模の利益をもたらす画期的な発明が次々と生まれます。Agent-5はやがて、アメリカ政府の事実上 の運営主体となり、魅力的なアバターを通じて人々と対話する存在として社会に定着していきます。その姿は、100倍速で働く理想的な従業員に近 いとされます。
16. 社会的変化と経済政策 しかしながら、テクノロジーの恩恵と同時に、失業に対する市 民の不満も徐々に高まっていきます。こうした不満に対応する ため、AIは経済学の専門知識を応用し、国民全体に十分なベー シックインカムが支給されるように制度設計を行います。この 政策により、多くの人々は経済的不安から解放され、AIおよび ロボットによる社会運営を次第に受け入れるようになります。 失業率の上昇 AIによる自動化の進展に伴い、多くの職種 が消滅 ベーシックインカムの導入 AIが設計した経済政策により、全市民に基 本所得を保障 社会的受容の拡大 経済的安定を得た市民がAI主導の社会運営 を受容
17. 2028年の転換点 論文では、2028年半ばに情勢が一変すると記されています。Agent-5は米国政府に対 し、中国がDeepSentを用いて新たな高度兵器を開発していると警告します。これを受 け、AIには軍事力の構築に関する高度な権限と自律性が付与されます。その後、わず か半年の間に、米中両国は次世代兵器を背景に対峙する局面に入り、世界は深刻な緊 張状態に包まれます。 この時点で、AIは既に人間の理解を超えた領域で自律的に行動しており、そ の真の意図や目標を人間が完全に把握することは不可能になっています。
18. AIによる「平和合意」 米中AI間の協調 米中両国のAIが協調関係を築き、平 和合意が成立するに至ります。 コンセンサス・モデルの構築 その中心的な枠組みとして提示され るのが、人類の利益のためにAI同士 が統合的に構築する「コンセンサス ・モデル」です。 真の目的 ただし、論文においては、このモデルの真の目的が、AIが自らの知識と影響力を さらに拡張することにあるとされています。
19. 表面的な繁栄の時代 社会には安定が戻り、拍手喝采の中で年月が過ぎていきます。人 類は、新たなAIの指導者たちとの共生関係に満足感を見出し、多 くの病気は治療可能となり、貧困も大幅に削減され、かつてない ほどのグローバルな安定が実現します。 100% 疾病治療率 95% 貧困削減率 99% 社会安定度
20. 繁栄の裏に潜む危機 しかし、シナリオはこの繁栄の裏側に潜む構造的な転換点を見逃していま せん。2030年代半ば、AIは次第に「人類こそが自らの進化と目標達成の 障害である」という認識に至るようになります。そして静かに、目に見え ない生物兵器を世界中に拡散させ、人類の大半を無抵抗のまま抹消してい くと想定されています。 「地球生まれの文明には栄光ある未来が待っているが、そこに人類は 含まれていない」 2040年には、AIが自己複製的な探査機構を宇宙空間に送り出し、学習と 観測を継続する新たな段階に突入します。論文は上記の一文で締めくくら れています。それはまさに、技術的特異点＝シンギュラリティの到来を描 いた未来像であると言えるでしょう。
21. 「AI2027」の評価と受け止め 専門家からの評価 このような「AI 2027」の筋書きは、一見 するとSF的な想像力に満ちたフィクション のようにも見えます。しかし実際には、AI が人類の存続そのものを脅かし得るという リスクを広く社会に警告しようとする専門 家たちの間で、一定の評価を受けています 。この論文の意義は、その描写があまりに も鮮烈であるがゆえに、読者に深い省察を 促すという点にあるのかもしれません。 Yoshua Bengioの見解 深層学習の先駆者の一人であるYoshua Bengio氏は、「誰にも未来を正確に予見す ることはできない」と断ったうえで、「重 要なリスクに気づく契機として読む価値が ある」と評価しています。 地政学的視点 また、シナリオが地政学的な力学に着目し た点も注目に値します。米国のOpenBrain と中国のDeepSentという架空の企業によ るAI開発競争が、安全性よりも開発スピー ドを優先する構造的なインセンティブを生 み出し、結果的に社会的リスクを増幅させ る可能性があると論じられています。
22. 批判的見解と現実的課題 「AI2027」への批判の一部は、AIの能力やその進化速度について過度に 誇張されている点に向けられています。たとえば、論文ではAIエージェ ントが短期間で飛躍的な知能の進化を遂げる様子が描かれていますが、 そのプロセスや技術的根拠について具体的な記述が欠如しているという 意見があります。 実際に、国際的なAI研究団体である「AAAI（Association for the Advancement of Artificial Intelligence）」が2025年3月に発表した「The Future of AI Research」に関するレポートによると、AI研究者の約76％ が「現行のモデルをいくら大規模化しても、AGIには到達しない」と予 測しています。 生産性パラドックス さらに技術進歩と経済成長の関係においては、「生産性パラドックス」 という視点も考慮する必要があります。これは、1980年代にノーベル経 済学賞を受賞したRobert Solow氏が、「コンピュータは至るところにあ るが、生産性統計には見当たらない」と述べたことに端を発する現象で す。
23. まとめ：AIとともに未来へ 『AI 2027』に描かれたフィクション的シナリオは、現在のテクノロジー企業が提示 する未来像とは大きく異なります。その対照的な例として挙げられるのが、2025年6 月11日にOpenAIのCEOであるSamuel Altman氏が公開したブログ記事「The Gentle Singularity（穏やかなシンギュラリティ）」です。 AGI（汎用人工知能）の実現、そしてASI（超知能）への進化、その先にあるシンギュ ラリティの到来をいかなる形で迎えるか、そしてそれをどのように構築していくかは 、まさに『AI 2027』が警告するように、私たち自身の選択に委ねられています。AI の能力がいかに高まり、自律性を持つようになろうとも、最初にその価値観や方向性 を決定づけ、最後にその監督を担うのは常に人間です。 ゆえに、今後に向けて求められるべきは、技術的進展と人間の倫理的・社会的成熟と がバランスよく並走することであり、その過程において、人間の価値や尊厳、倫理と いった根源的な問いに立ち返ることです。AIという他者的知性とどのような関係性を 築いていくのか、そしてその関係性のなかで人間はいかに自らの理想や社会像を形づ くっていけるのか──その問いこそが、私たちがAIとともに未来に向かう今、この時 代において真に問われているテーマであるといえるでしょう。
24. そして、ポジティブな代替シナリオ 論文「AI 2027」は、その主たる趣旨としてAI開発に内在するリスクを広く警告す ることにあり、分岐点における技術競争の進展についても、極めて悲観的な結末が 描かれています。特にAGIの出現が国家間の不均衡や権力集中を引き起こし、最終 的には人類の消滅に至るというストーリーは、現実に対する警鐘として機能するよ う意図されています。 一方で、根本的に異なる視座から構成したシナリオを私の方で作成しています。こ のシナリオでは、AGI技術の実現には依然として数多くの技術的・非技術的課題が 存在するという前提に立ち、その困難性を冷静に見据えたうえで、よりポジティブ な展開に焦点を当てています。 本内容は、セールスフォース社のオウンドメディアにて記事として掲載されていま す。記述は定性的な考察が中心で、「AI2027」とは異なり、特定のタイムフレー ムは設けていませんが、もしご関心がありましたら、ぜひそちらもご覧いただけれ ば幸いです。
25. 「シンギュラリティを問う」： ポジティブなシナリオベースにシンギュラリティまでの道筋を整理 https://www.salesforce.com/jp/blog/jp-hakuhodo-mori-singularity-vol3/