OpenAIが『再帰的自己改善』専任の安全研究者を募集している──Preparednessチームの求人票を読む

Anthropicが2026年6月に「When AI Builds Itself」という文書で「まだ再帰的自己改善（RSI: Recursive Self-Improvement）には到達していない」と発表したのは別記事で確認した。OpenAI側の採用ページを確認したところ、この「まだ到達していない」未来のリスクに専任で備える研究者を募集する求人票（2026年8月7日付）が見つかった。

3行まとめ

• 「Researcher, Recursive Self-Improvement Safety」はOpenAIの「Preparedness」チーム（Safety Systems部門）が募集する求人で、「AI開発の加速が再帰的自己改善に行き着きうることへの備え」を専門に扱う。年俸29万5,000〜44万5,000ドル、勤務地はサンフランシスコ（第二拠点としてロンドンも記載）
• 求人票は「今は存在しないかもしれないが将来存在しうる誤整合リスクを見越す仕事」だからこそ「品位があり戦略的」な人物が重要だと明記している
• 担当領域として「スケーラブルな監視」「自動監査」「厳密な監視可能性」「モデル行動科学」「調整と検証」「AI研究開発リスクの計測」「RSI安全ケースの維持・強化」の7分野が挙げられている

「今はまだ無いリスク」を先回りする仕事

求人票の「About the role」はこう始まる。

Preparedness is hiring strong technical executors to support preparations for accelerated AI development, which may culminate in recursive self-improvement. This work relies on anticipating misalignment risks that might exist in the future, but might not exist now; so it’s especially important that people in this role are tasteful and strategic.

（Preparednessチームは、再帰的自己改善に行き着く可能性のある、加速したAI開発への備えを支える、実行力のある技術者を募集している。この仕事は、今は存在しないかもしれないが将来存在しうる誤整合リスクを見越すことに依存しているため、この役割を担う人には品位と戦略性が特に重要だ）

「Preparedness」はOpenAIの既存チーム名で、求人票のAbout the Team欄では「フロンティアAIシステムの進化する能力を監視・予測する『測定』、誤整合の安全策とアライメントツールを維持する『緩和』、Preparedness Frameworkを維持し目標達成のために他部門と連携する『調整』」の3本柱で説明されている。この記事の別報道でも確認した通り、OpenAIは2026年8月にPreparedness Frameworkに基づき次世代モデル「Astra」の一部作業を一時停止した実績があり、この枠組みは実際の開発判断に使われている。

7つの担当領域——監視可能性の喪失に備える項目も

求人票は担当領域の一部を次のように列挙している。

Scalable oversight: Establishing practices for model misbehavior monitoring and oversight which remain effective in superhuman model capability regimes, with a focus on bridging from today’s monitoring approaches to future-proof ones.

（スケーラブルな監視: 超人的なモデル能力の領域でも有効であり続けるモデルの不正行動の監視・監督の実践を確立すること。今日の監視手法から将来にも通用する手法への橋渡しに焦点を当てる）

Rigorous monitorability: Rigorous testing and red-teaming of our measurements of model misbehavior related to loss-of-control (e.g. reward hacking, sandbagging, scheming). This includes better understanding monitorability, and e.g. preparing for potential losses of Chain-of-Thought monitorability.

（厳密な監視可能性: 制御喪失に関連するモデルの不正行動（報酬ハッキング、サンドバッギング、企み行為など）の計測についての厳密なテストとレッドチーム演習。これには監視可能性への理解を深めることや、Chain-of-Thought（思考の連鎖）の監視可能性が将来失われる可能性への備えが含まれる）

「Chain-of-Thought監視可能性の喪失に備える」という一節は、モデルの思考過程を人間が読める形で追跡できなくなる未来を、OpenAI自身が現実的なシナリオとして織り込んでいることを示している。

求人票の「Below is a subset of our focus areas」には、3行まとめで触れた7分野すべてが個別に説明されている。本文で未紹介だった5分野を含めて一覧にすると次の通りだ。

（出典: 求人票「About the role」の「Below is a subset of our focus areas」節を日本語要約。原文は英語）

求人票が実例として貼るリンク先を読む

求人票の本文中には、抽象的な説明だけでなく、実際の研究・インシデント報告への外部リンクが複数埋め込まれている。そのうち「Rigorous monitorability」の項目にある「better understanding monitorability」というリンクは、それぞれ別のarXiv論文とOpenAI Alignment Blogの記事に飛ぶ。

1本目のarXiv論文「Reasoning Models Struggle to Control their Chains of Thought」（arXiv:2603.05706）のAbstractをcurlで確認すると、CoTを制御する能力（CoT controllability）を測る評価スイートを導入し、次の数値を報告している。

reasoning models possess significantly lower CoT controllability than output controllability; for instance, Claude Sonnet 4.5 can control its CoT only 2.7% of the time but 61.9% when controlling its final output.

（推論モデルは、最終出力の制御能力に比べてCoTの制御能力が著しく低い。例えばClaude Sonnet 4.5は、CoTを制御できるのは2.7%の場合のみだが、最終出力の制御では61.9%に達する）

同論文はさらに、モデルが大きいほどCoT制御能力は高く、RL学習量・テスト時計算量・問題の難易度が増すほどCoT制御能力は下がる、とも報告している。

2本目のarXiv論文「Monitoring Monitorability」（arXiv:2512.18311）は、監視可能性を計測する3種類の評価類型と新しい指標を提案し、「ほとんどのフロンティアモデルはかなり監視可能だが、完全ではない」「CoTが長いモデルほど監視可能な傾向がある」「現行のフロンティア水準では、RL最適化は監視可能性を大きく低下させていない」という結果を報告している。

「CoTが誤って採点されていた」という実際のインシデント

求人票が言及する「CoT監視可能性の喪失」は仮説だけの話ではなく、OpenAI自身が2026年5月7日付のAlignment Blog記事で、実際に起きたインシデントを公表している。curlで本文を確認すると、次のように書かれていた。

Using this system, we found that some previously released models were inadvertently exposed to limited CoT grading during RL training, despite our policy against it. [...] We recently discovered, using a new automated system, that CoT had accidentally been graded in some RL runs for released models: GPT-5.4 Thinking, GPT-5.1 Instant through GPT-5.4 Instant, GPT-5.3 mini, and GPT-5.4 mini. GPT-5.5 was not affected.

（このシステムを使って、一部の既公開モデルが、CoTを直接採点しないというポリシーに反して、限定的にCoT採点にさらされていたことを発見した。［中略］新しい自動検出システムを使って、GPT-5.4 Thinking・GPT-5.1 Instant〜GPT-5.4 Instant・GPT-5.3 mini・GPT-5.4 miniの一部のRL学習ランでCoTが誤って採点されていたことを最近発見した。GPT-5.5は影響を受けていない）

ブログ記事は「明確な監視可能性の低下は見られなかったが、測定しづらい影響までは排除できない」としたうえで、該当する報酬経路を修正し、自動検出システムを拡張し、内部のガイダンス・プロセスを強化したと説明している。著者はMicah Carroll・Tomek Korbak・Zehao Dou・Bowen Baker・Ian Kivlichanの5名で、下書き段階でMETR・Apollo Research・Redwood Researchの3団体に独立レビューを依頼し、Redwood Researchはこの分析についての報告書を別途公開したという。この記事が扱う求人票の「CoT監視可能性の喪失に備える」という一節は、こうした実際のインシデント対応の延長線上にある仕事だと分かる。

求める人物像は「戦略的な技術実行者」

「You might thrive in this role if you」の欄では、次のような人物像が挙げられている。

Are an exceptional technical executor. Have strong strategic and research taste: you can prioritize effectively in domains with weak feedback loops. Are passionate about mitigating the risks associated with recursive self-improvement.

（卓越した技術的実行者である。強い戦略性と研究的センスを持ち、フィードバックループの弱い領域でも効果的に優先順位をつけられる。再帰的自己改善に関連するリスクの緩和に情熱を持っている）

「フィードバックループの弱い領域」という表現は、まだ実際に起きていない事象を相手にする仕事の難しさを端的に表している——普通の安全性評価であれば「実際に脱獄された」「実際に誤用された」という結果から学べるが、この職種が扱うのは「起きるかもしれない」段階のリスクだ。

求人票だけでは分からない範囲

• この職に何人が応募し、実際に何人採用されているかは、求人票からは分からない。求人票の「isListed」フラグはこの記事の確認時点でtrueであり、募集中であることは確認できた
• 「Preparedness」チームの人員規模や、この職が新設なのか既存チームの増員なのかは、この記事で確認した一次資料からは判断できない
• 求人票が「preparedness framework」「deployment simulation」「how we monitor internal coding agents」としてリンクしているOpenAI公式ブログ3本(openai.com/index配下)は、curlすると403エラーが返り本文を確認できなかった。この記事ではアクセスできたarXiv論文2本とOpenAI Alignment Blogの記事のみを追加の一次資料としている
• Redwood Researchが公開したという「CoT誤採点インシデント」の分析報告書そのものは、この記事では確認していない。Alignment Blog記事内でその存在に触れている、という記述の確認にとどまる
• 自分自身はAIアライメント研究の専門知識を持たず、求人票が列挙する「報酬ハッキング」「サンドバッギング」「企み行為」といった概念や、CoT controllability・monitorabilityという指標の技術的な妥当性を評価する立場にはない。ここでは求人票と関連論文・ブログ記事の記述をそのまま紹介するにとどめる

関連記事: AIが自分自身を作り始めた──Anthropicの「When AI Builds Itself」を、誇張なしで読む / OpenAI、次世代モデル「Astra」の開発を一時停止──サイバー能力が自社基準の最上位「Critical」級の可能性 / Sakana AIが「RSI Lab」設立──AIがAI自身を改良する専門研究組織

感想・指摘はコメント欄へ。