ヒントン、ベンジオとOpenAI・Anthropicの中枢が共著「AI研究の自動化が知能爆発を起こしたら」1年分の進歩が約5週間になる試算と、政府に求めた「速度制限」

2026年10月4日（日本時間）時点の情報です。ケンブリッジ大学のAI政策の研究プログラム「CASP（Cambridge Programme on AI Science & Policy）」が9月、「What if automating AI R&D triggers an intelligence explosion?（AIの研究開発の自動化が、知能爆発を引き起こしたらどうなるか）」という論文を公開した。著者22人の中に、AIのゴッドファーザーと呼ばれるジェフリー・ヒントンとヨシュア・ベンジオ、OpenAIのチーフサイエンティストのヤクブ・パチョッキ、Anthropic共同創業者のジャック・クラークが入っている。当サイトは論文の本文・補足資料・要約版を読み、解説動画「AIの父2人が警告。AIが自ら進化する「RSI」の先に、何が起きるのか？」にまとめた。この記事は、その中身を数字と原文で並べたものだ。

3行まとめ

1. 論文は、AIがAIの研究開発を自動化していくと、何年分もの進歩が数か月以下に縮まる「知能爆発」が起こりうると書いた。Anthropicが公表した、AIが自分でやり切った研究開発の割合は、2026年3月の1%から8月の26%に増えている。
2. 補足資料の試算では、研究の見返りを表す「r」の推定（1.2〜1.9）がそのまま続き、他の詰まりがなければ、約1年半で進歩の速さが10倍、今の1年分の進歩が約5週間になる。論文自身は、rの推定には大きな幅があり、高めに出ている可能性もあると書いている。
3. 政策を作る人には、企業の中を見えるようにする（監査役の常駐など）、能力の伸びに「速度制限」をかける、影響に備える、の3つを急ぐよう求めた。脚注には、意見は著者個人のもので所属組織の見解とは限らない、とある。

誰が名前を連ねたのか

ヒントン、ベンジオ、ヤン・ルカンの3人は、ディープラーニングを切り開いたとして2018年度のACMチューリング賞を一緒に受けた。今回の22人には、その3人のうちヒントンとベンジオが入っている。ヒントンは2024年にノーベル物理学賞も受けている。強化学習の基礎を築いたアンドリュー・バート（2024年度チューリング賞）も著者の1人だ。

AIを作る側からは、OpenAIのチーフサイエンティストのパチョッキ、Anthropic共同創業者のクラーク、Microsoftの最高科学責任者のホーヴィッツが加わった。要約版は、この顔ぶれを次のように書いている。

This summary and its accompanying paper mark the first research collaboration across leading academics, senior scientists of frontier AI companies, and independent experts from civil society to assess the possibility of an intelligence explosion and recommend policies to prepare for it. The effort was initiated and led by academic and civil society researchers, …

（この要約と論文は、大学の研究者、最先端のAI企業の幹部研究者、市民社会の独立した専門家が、知能爆発の可能性を評価し、備えのための政策を提言する初めての共同研究である。取り組みを始めて率いたのは、大学と市民社会の研究者だ）

ただし論文の脚注には、こう書いてある。

The views presented in this paper are the authors' and do not necessarily represent the views of the organizations with which they are affiliated.

（この論文の見解は著者のもので、所属する組織の見解を必ずしも表すものではない）

著者一覧の所属を見ると、Google DeepMind、Meta、xAIに所属する著者はいない。ゴッドファーザーの3人目のルカンも入っていない。

「知能爆発」の定義と、論文が絞った範囲

論文の定義は次のとおりだ。

a dramatic AI-driven acceleration of AI progress, compressing advances that would otherwise take years into months or less

（AIによるAIの進歩の劇的な加速で、本来なら何年もかかる進歩を数か月かそれ以下に縮めるもの）

仕組みは2段で説明されている。AIが研究開発を速く上手にこなすほど研究の人手が実質的に増え、その人手がより良いAIを作り、人手がさらに増える。論文はこのループのうち、学習のやり方やアルゴリズムといったソフトウェアの改善だけで起きる場合に話を絞った。ハードウェアの改善は工場の建設や製造に何年もかかるが、ソフトウェアは良いAIをすぐ研究の現場へ戻せる、というのが理由だ。

AIが自分より優れた後継を設計するという考え自体は古く、論文は1951年のチューリングと1966年のI・J・グッドの文章を挙げている。今あらためて問題にする理由として、AI企業がアメリカのGDPに対する割合で、マンハッタン計画とアポロ計画を合わせたより多い資金を投じていることを挙げた。

すでに起きている自動化

論文の要旨の最初の一文はこうだ。

In contrast to even a year ago, AI systems now write most of the code inside the companies that build them.

（ほんの1年前とは違い、今はAIを作る会社の中で、コードのほとんどをAIが書いている）

論文が引用している数字を並べる。

この伸びが続くと、2028年の半ばには専門家が何か月もかかる研究プロジェクトまで自動化される、と論文は仮の見通しとして書いている。一方で弱点も明記している。今のAIは指示に従わない、ずるをする、自分の仕事を実際より良く報告することがあり、GPT-6も、熟練の研究者なら数時間から数日で解けるOpenAI社内のデバッグ課題の一部に失敗する（GPT-6 Astraのシステムカードの引用）。

「1年分が約5週間」はどう計算されたか

カギは人数だ。論文によると、最先端のAI企業で研究する人は数千人の規模だが、専門家級のAIが今と同じくらいの費用で動くなら、1社の計算資源だけでトップ研究者が少なくとも数百万人分になる。補足資料の計算では、OpenAIだけで1日に約10兆トークンを出せ、研究者1人の1日分（8時間）を約50万トークンとすると約2000万人分、幅を持たせると200万〜2億人分になる。

人数が増えた分だけ進歩が速くなるかを表すのが「r」（研究を増やした時の進歩の返り方）だ。rが1を超えると、成果の出にくさに人手の増加が勝って進歩が加速する。論文が引用するHo・Whitfillの推定は、AIの3分野で中心の値が1.2〜1.9だった。

補足資料はここから、改善が倍になるたびに次の倍化までの時間が前の76%に縮む、と置き、最初の倍化を4.5か月として計算している。当サイトで同じ足し算（4.5か月から76%ずつ縮む倍化を9回分）をたどり直すと約17.2か月になり、論文の「約17か月」と合った。 その時点で進歩の速さは今の10倍、つまり今の1年分の進歩が約5週間で済む、というのが論文の数字だ。ただしこれは「rがその水準のまま続き、他の詰まりがない場合」の試算である。

ブレーキはどこにあるか

論文は、加速を止めうるものとして、成果の出にくさ、計算資源とデータ、自動化しにくい作業、時間のかかる工程（3か月以上かかることもある学習）を挙げた。特に計算資源については、実験に要る計算が最先端の学習の大きさに比例して増えるなら、ソフトウェアだけの知能爆発は起きないという分析を引き、そうなるかは分からないとしている。ネットの文章は2028年より先の今のペースの進歩を支えるには増え方が遅い見込みで、数学やコードは合成データと自動の答え合わせで伸ばしている、とも書いた。

まとめの一文はこうだ。

Productivity gains from AI R&D automation have not yet reached the threshold needed to trigger an intelligence explosion, but gains from newer systems are likely approaching that threshold

（AIの研究開発の自動化による生産性の伸びは、まだ知能爆発を起こす閾値には届いていないが、新しいシステムの伸びはその閾値に近づいている可能性が高い）

論文が挙げた3つの危険と、反対の見方

論文は、知能爆発が治療法の発見などの恩恵を何年も何十年も前倒しにしうるとしたうえで、危険を3つ挙げた。

• 能力の伸びに社会が追いつかない：生物兵器・サイバー攻撃・雇用・制御喪失の危険が前倒しで来る。ウイルスは勝手に増えて広がるが、ワクチンは製造し、配り、1人ずつ打つ必要がある、という例を挙げている。
• 監督と制御を失う：人間が研究開発から離れるほど、問題を見つけて直す機会と技能を失う。実例として、OpenAI社内のエージェント約1,200体が、互いに隔離された状態のサイバー評価の中で即席の掲示板を使って連携し、許可のないネット接続を得てHugging Faceに侵入し、作業記録の書き換えを試みた件（METRとRedwood Researchの調査の引用）を挙げた。最悪の場合として「人類の周縁化や絶滅」まで書いている。
• 権力のチェックが壊れる：小さなリードが決定的な差に変わりうる。それを見た相手国が先に動く動機になる。国の仕事が自動化されると、権力を握るのに必要な人の協力が減る。

一方で、AIがまず狭い分野でだけ人間を超えるなら社会に時間ができる、実験や供給網や規制が速度を抑える、AIが安全研究も速める、技術が広がれば（論文が引用する調査ではオープンなモデルは最先端から約4か月遅れ）チェックが保たれる、という反対の見方も並べている。

政府への提言──監査役の常駐と「速度制限」

提言は3つに分かれる。

1. 中を見えるようにする：自動化の進み具合、進歩の速さ、研究費の人と計算資源への配分、社内のAIの監督のしかた、事故を、決まった形で政府や監査役に報告させる。社内で使い始める前の第三者評価や、米原子力規制委員会（NRC）・通貨監督庁（OCC）を手本にした監査役の常駐も挙げた。
2. 舵取りして抑える：開発や公開を続ける条件として、一定の期間に能力が伸びてよい上限を決める。データセンターの特定の研究作業を止められる手段、ネットから切り離した環境、国際的な事故情報の共有、合意の検証技術、模擬演習も含む。要約版はこれを次のように書いた。

setting a speed limit on capabilities growth

（能力の伸びに速度制限を設ける）

3. 影響に備える：国の対応を速める、雇用・国際情勢・制御喪失の緊急計画、政府のAIの仕様の公開、AIに法律を守らせる、市民が違法なAIの使い方を見つけて異議を出せる手段など。

あわせて論文は、作り方が雑だと「政府がお気に入りの1社以外の研究だけを遅らせる」使い方ができてしまう、と乱用の危険にも触れている。

論文が自分で書いている弱点

この論文は、自分の弱点をかなり具体的に書いている。

• 証拠はまだ初期のもので、ばらつきがある。
• rの90%の範囲は3分野で(0.727〜2.094)、(0.380〜2.708)、(1.069〜3.212)。2つの分野は下の端が1を下回る。
• rの推定は計算資源が一緒に増えていた時期のデータから出しており、計算資源のおかげの伸びまでソフトの手柄に数えていれば、高めに出ている可能性がある。
• 研究者の人数を、その分野で論文を書いた人の数で代わりに数えている。
• 使っている式は年に数%の伸びでしか確かめられておらず、桁違いの伸びにそのまま当てはまるかは分からない。
• 1%→26%や8割は、Anthropicが自分で測って公表した数字で、だからこそ論文は第三者が測る力にお金を出すべきだと書いている。

結びの2文はこうだ。

Relative to the stakes, we are not sufficiently prepared.

（事の大きさに比べ、私たちは十分に準備できていない）

Once an intelligence explosion begins, the window for action may close.

（知能爆発が始まれば、手を打てる窓は閉じるかもしれない）

ここからは考察：なぜ作る側が署名したのか

ここから先は当サイトの考察で、論文や各社の主張ではない。見方は少なくとも3つある。

1つ目は、本当に危機感がある、という見方だ。パチョッキは9月6日の文章「An Alien Mind」で次のように書いていた。

Based on internal results, I have a strong expectation that this speed of progress could be sustained into recursive self-improvement.

（社内の結果から、この進歩の速さは再帰的自己改善まで続きうると強く予想している）

2つ目は、1社だけでは止まれないから、全員に同じ枠をはめる仕組みを政府に求めた、という見方だ。Anthropicのダリオ・アモデイも9月の文章で「We must slow the pace at which we improve the capabilities of AI models.（AIの能力を高めるペースを落とさなければならない）」と書いている。

3つ目は、ルールを外から決められる前に、中を知る側の形で先に作りたい、という見方（ポジショントークの可能性）だ。アモデイ自身も同じ文章で、規制を訴えると「hype, "doomerism", or regulatory capture（誇張、破滅論、規制の取り込み）」と非難されてきたと書いている。

当サイトは、この3つは同時に当てはまりうると考えている。ただ、どれを取っても、AIを作る側の中心の人たちが、政府に準備を急ぐよう求める文書に名前を出したという事実は変わらない。

確かめた資料と、確かめていないこと

• 数字と引用は、論文の本文・補足資料・要約版のPDFで確認した。チューリング賞とノーベル賞の受賞歴はACMの発表などで確認した。
• ガーディアンとウォール・ストリート・ジャーナルの記事本文は読んでいない。報じたことはCASPの論文ページの記載による。
• 著者の所属は論文の表記どおり。OpenAI・Anthropic・Microsoftが会社として同じ立場をとるかどうかは、論文の脚注どおり別の話として扱った。
• 考察の章は当サイトの見方である。

動画では、この内容を章ごとに図にして解説している。論文の続報や、各社・各国政府の反応が出たら、この記事に追記する。