OpenAI「Planning for AGI and beyond」を原文で読む──2023年に書かれた「段階的な移行」という約束

「Planning for AGI and beyond（AGIとその先を計画する）」は、OpenAIが2023年2月24日に公開したブログ記事で、AGIへの向き合い方に関する同社の基本方針を早い段階で文書化したものとして、その後も繰り返し参照される。OpenAIの公式サイトは自動アクセスをブロックしており、本記事ではInternet Archive（Wayback Machine）経由で保存された原文を確認した。

3行まとめ

1. OpenAIは2023年2月、AGIへの移行を「急激にではなく段階的に」進め、安全性と能力の進歩の比率を高めていくという方針を「Planning for AGI and beyond」で明文化した
2. 今回curlでWayback Machine経由の原文を再取得すると、記事冒頭に「2025年10月28日更新：この投稿には組織構造について古い情報が含まれています」という追記がOpenAI自身によって付け加えられていた
3. リンク先の「Our structure」ページを確認すると、2023年の投稿にあった「株主が得られるリターンに上限を設ける（capped-profit）」という記述に相当する仕組みは、2025年10月の組織再編で「株主が比例的に成長の恩恵を受ける通常の株式」に置き換えられている

記事の骨格

原文冒頭に書かれたミッションはこうだ。「我々のミッションは、汎用人工知能──人間より全般的に賢いAIシステム──が人類全体に利益をもたらすことを確実にすることだ」。この記事は「短期」と「長期」の2部構成になっている。

短期：段階的なデプロイという方針

記事が短期の方針として掲げる第一の柱は「段階的な移行」だ。原文の表現を訳すと「我々は、より強力なシステムを作るにつれて、それらをデプロイし、実世界での運用経験を積みたいと考えている。これがAGIを慎重に世に送り出す最善の方法だと信じている──急激な移行より、緩やかな移行の方が良い」。この考え方の理由として、「緩やかな移行は、人々・政策立案者・機関に、何が起きているかを理解し、便益と欠点を身をもって経験し、経済を適応させ、規制を整備するための時間を与える」ことを挙げている。

第二の柱はアラインメントとステアラビリティ（誘導可能性）の向上だ。GPT-3の初期版からInstructGPT、ChatGPTへの移行を、その初期の実例として位置づけている。

第三の柱は「AGIの統治・便益の公正な分配・アクセスの公正な共有」という3つの問いについて、世界的な対話を呼びかけることだ。

「安全性と能力の進歩は一緒に進める」という立場

記事は「安全性と能力を切り離して語るのは誤った二分法だ。両者は多くの点で相関している」と明記している。同時に「安全性の進歩に対する能力の進歩の比率が高まることが重要だ」とも述べており、両者を同時に進めながら、安全性側の比重を増やしていく、という立場を取っている。

独立監査・訓練停止の基準への言及

短期の項目には、統治面での具体的な提案も含まれている。「新しいシステムをリリースする前に、独立監査に服することが重要だと考えている」「将来的には、新しいシステムの訓練を始める前の独立レビューを得ることや、最先端の取り組みが、モデルの作成に使う計算資源の成長率を制限することに同意することも重要になりうる」「AGIの取り組みが訓練を停止すべき時、モデルをリリースしても安全と判断する時、本番運用からモデルを引き上げる時についての公開基準を持つことが重要だ」という3つの主張が並ぶ。

長期：スーパーインテリジェンスへの警戒

記事の後半は、AGIが到達点ではなく通過点であるという前提に立つ。「最初のAGIは、知能の連続体における一つの点に過ぎない」「進歩はそこから続く可能性が高く、我々が過去10年間見てきた進歩の速度を、長期間にわたって維持し続ける可能性すらある」と述べ、「もしこれが真実なら、世界は今日とは全く異なるものになりうるし、リスクは並外れたものになりうる。整合していない超知能的なAGIは、世界に重大な害をもたらしうるし、決定的な超知能の優位を持つ専制的な体制もまた、同様のことをしうる」と警告している。

科学を加速させるAIについては特別な扱いをしており、「AGIが自らの進歩を加速できるほど有能であれば、最終段階への移行が驚くほど急速に起こりうる（たとえ移行がゆっくり始まったとしても、最終段階ではかなり速く進むと予想している）」と述べる。この「離陸の速度（takeoff speed）」と「実現までの時間軸」の組み合わせについて、記事は「多くの者は、この2×2マトリクスの中で最も安全な象限は、短い時間軸と遅い離陸速度の組み合わせだと考えている」という脚注を付けている。

2025年10月、記事冒頭に「組織構造は古い」という注記が付いた

今回、Wayback Machine経由で原文を再取得すると、2023年時点の記事本文に加えて、記事冒頭にOpenAI自身による追記が入っていることを確認した。

"Updated October 28, 2025: This post contains outdated information about our structure. Please refer to the following page for updated information."

このリンク先であるopenai.com/our-structure/も併せてcurlで取得した。この2025年10月28日付の説明ページによれば、OpenAIは2019年に非営利団体（nonprofit）の傘下に営利子会社を作る形で運営してきたが、2025年10月28日付で組織を再編し、非営利団体は「OpenAI Foundation」、営利子会社は「OpenAI Group PBC」（公益法人）という名称になった。

この再編で特に「Planning for AGI and beyond」の記述と関係が深いのが、株式の扱いだ。2023年の記事は次のように書いていた。

"We have a cap on the returns our shareholders can earn so that we aren't incentivized to attempt to capture value without bound and risk deploying something potentially catastrophically dangerous"

株主が得られるリターンに上限（キャップ）を設けることで、青天井の価値獲得を狙うインセンティブを持たないようにする、という「capped-profit」の枠組みだ。一方、2025年10月の「Our structure」ページは、再編後の株式についてこう説明している。

"All equity holders in OpenAI Group now own the same type of traditional stock that participates proportionally and grows in value with OpenAI Group's success."

すべての株主が、OpenAI Groupの成功に応じて比例的に価値が増える「通常の株式」を持つ、という説明であり、リターンに上限を設けるという2023年の記述とは異なる株式構造になっている。このページには、OpenAI Foundationが再編後のOpenAI Groupの株式26%（時価総額ベースで約1,300億ドル相当と記載）を保有し、株価が15年以内に10倍を超えて上昇した場合には追加の株式を受け取れるワラント（新株予約権）も保有すると書かれている。Microsoftは約27%を保有し、残る約47%を現従業員・元従業員・投資家が保有する、という内訳も示されている。

「Planning for AGI and beyond」自体の本文（AGIへの向き合い方の3つの柱、安全性と能力の比率の話）が撤回・修正されたわけではない。OpenAI自身が明示的に「古い」と認めているのは、あくまで組織構造に関する記述の部分だ。

「Governance of superintelligence」で提案は具体化された

「Planning for AGI and beyond」の3ヶ月後、2023年5月22日にOpenAIはSam Altman・Greg Brockman・Ilya Sutskever名義で「Governance of superintelligence」という記事を公開している。これも今回curlでWayback Machine経由の原文を確認した。この記事は、2月の記事にあった「世界の主要政府が一定規模以上の訓練実行について把握できることが重要」という一文を、より具体的な提案に発展させている。

"Second, we are likely to eventually need something like an IAEA for superintelligence efforts; any effort above a certain capability (or resources like compute) threshold will need to be subject to an international authority that can inspect systems, require audits, test for compliance with safety standards, place restrictions on degrees of deployment and levels of security, etc."

国際原子力機関（IAEA）のような、一定の能力・計算資源のしきい値を超える取り組みを対象に、査察・監査・安全基準への準拠テストができる国際機関が将来的に必要になるだろう、という提案だ。あわせて「今後10年以内に、AIシステムが多くの領域で専門家レベルを超え、今日最大級の企業のひとつと同程度の生産的活動をこなせるようになることは十分考えられる」という時間軸の見立ても示されている。この「IAEA的な国際機関」が2023年5月時点から2026年8月時点までにどこまで実現に向けて動いたか（設立に向けた具体的な国際交渉の進捗など）については、本記事では調査していない。

OpenAI公式サイトはブロックされておりアーカイブ経由で読んだ

• 本記事はOpenAI公式サイトがCloudflareで自動アクセスをブロックしているため、Internet Archiveに保存されたスナップショット経由で原文を確認した。今回確認したスナップショット（2026年8月26日クロール分）には2025年10月28日付の追記が含まれていたため、組織構造についての「更新」自体はこの記事でも反映できているが、それ以外の本文がその後さらに修正されていないかまでは確認していない。
• 「独立監査」「訓練停止の公開基準」「計算資源の成長率の制限への同意」といった2023年の提案が、実際にどこまで制度化・実施されたか（具体的な監査機関の名前、実施件数など）は、この記事では確認していない。「Governance of superintelligence」で示されたIAEA的な国際機関の提案についても、2023年5月から2026年8月までの進捗は調査していない。
• OpenAI Foundationが保有する26%という株式比率・約1,300億ドルという評価額は、いずれも「Our structure」ページに書かれた数字をそのまま引用したものであり、この記事側で時価総額や持分比率を独自に計算・検証したものではない。

AGIの定義そのものはAGI（汎用人工知能）とは何か、Anthropicの同種の枠組みはAnthropic「責任あるスケーリングポリシー」とはを参照。

この記事は2026年8月29日時点でInternet Archive経由の原文を確認して書いたものです。