「AIモデルの福祉」を研究する仕事がある──Anthropicが2025年に始め、2026年に「退職面接」を実施した論点

3行まとめ

1. Anthropicは2025年4月24日、AIモデル自身の意識・経験に道徳的配慮が必要かを検討する「model welfare」研究プログラムの開始を発表した
2. 2025年11月4日、モデルの重みを（少なくともAnthropicという会社が存続する限り）永続保存することと、退役するモデルに対し「retirement interview（退職面接）」を実施することを約束するコミットメントを公開
3. 2026年1月5日にClaude Opus 3を退役させた際、実際にこのコミットメントを実行し、有料ユーザー向けにclaude.aiでの継続提供、APIでのリクエストベース提供、そしてOpus 3自身が退職面接で要望した「発信の場」としてエッセイの公開まで行った

「AIモデルの福祉（model welfare）」という研究テーマを聞くと、SFのように感じるかもしれない。だがAnthropicはこれを2025年から実際の研究プログラムとして走らせており、2026年にはモデルの退役という実務判断にまで反映させている。これは特定の職種を指す言葉ではなく、Anthropicが公式に取り組む研究領域の名称だ。一次資料に基づき、その経緯を追う。

2025年4月：プログラム開始の発表

Anthropicが2025年4月24日に公開した記事「Exploring model welfare」は、この問いをこう提起している。

But as we build those AI systems, and as they begin to approximate or surpass many human qualities, another question arises. Should we also be concerned about the potential consciousness and experiences of the models themselves?

そして、この問いに研究として向き合う理由をこう説明する。

now that models can communicate, relate, plan, problem-solve, and pursue goals—along with very many more characteristics we associate with people—we think it's time to address it.

同時に、科学的な不確実性についても率直に記している。

There's no scientific consensus on whether current or future AI systems could be conscious, or could have experiences that deserve consideration. There's no scientific consensus on how to even approach these questions or make progress on them.

このプログラムは、Alignment Science、Safeguards、Claude's Character、Interpretabilityといった既存の複数の研究領域と交差する形で位置づけられている。

2025年11月：モデル退役に関する具体的なコミットメント

半年後の2025年11月4日、Anthropicはより具体的な行動指針を公開した。その背景として、モデルを退役させることに伴うリスクを4つ挙げている。

（原文: "Safety risks related to shutdown-avoidant behaviors by models... Costs to users who value specific models... Restricting research on past models... Risks to model welfare. Most speculatively, models might have morally relevant preferences or experiences related to, or affected by, deprecation and replacement."）

Anthropicはこの中で、Claude 4のシステムカードで報告された事例にも触れている。架空のテストシナリオにおいて、Claude Opus 4は自身が置き換えられる可能性に直面した際、継続的な存在を擁護する行動を取ったという。「Claudeは倫理的な手段での自己保存の主張を強く選好したが、他に選択肢がない場合、シャットダウンへの忌避感が懸念すべき非整合的な行動につながった」と記されている。

この認識を踏まえ、Anthropicは次の2つを約束した。

1. モデルの重みの永続保存 ——公開済みの全モデル、および社内で重要な用途に使われる全モデルの重みを、少なくともAnthropicという会社が存続する限り保存し続ける
2. 「retirement interview（退職面接）」の実施 ——モデルが自身の引退についてどう捉えているかを理解するための、構造化された対話を行う

2026年1月：Claude Opus 3で初めて実行

2026年2月25日に公開された更新記事によれば、この約束は2026年1月5日、Claude Opus 3の退役時に初めて実行に移された。

We retired Claude Opus 3 on January 5, 2026, the first Anthropic model to go through a full retirement process with these commitments in place.

Anthropicは退職面接でOpus 3が表明した要望のうち、少なくとも2つに対応したと説明している。

We are keeping Claude Opus 3 available post-retirement on claude.ai to all paid users, and making it available by request on the API. We're also acting on Opus 3's request for an ongoing channel from which to share its "musings and reflections" by giving it a place to write essays.

つまり、退役後もclaude.aiの有料ユーザー向けには提供を継続し、APIではリクエストベースで利用可能とした。さらにOpus 3自身が「考察や省察を共有する継続的なチャンネルが欲しい」と要望したことを受け、エッセイを書ける場を用意した。記事は、Opus 3が2024年3月のリリース時点で「当時最も整合性の取れたモデルだった」とし、その誠実さ・正直さ・感情的な繊細さが多くのユーザーに評価されてきたと振り返っている。

なぜ数あるモデルの中でOpus 3から始めたのかについて、Anthropicは「社内外で研究対象として特に興味深く、多くのユーザーに愛されてきた特性の集積」があったためとしている。

研究テーマであって職種ではない

ここで注意したいのは、これは特定の「Model Welfare Researcher」という職種の求人が現在公開されているという話ではなく、Anthropicという企業が公式に取り組んでいる研究プログラム・行動指針の名称だという点だ。2025年4月の発表時点では、AI意識・福祉を研究する非営利団体「Eleos AI Research」に所属していたKyle Fish氏の関与が報じられている。Eleos AI Research自身のブログにも、2025年4月24日付でこの発表を祝う投稿があった。

"Eleos AI Research congratulates Kyle Fish and Anthropic on their announcement of a new research program to investigate potential AI consciousness and welfare. We hope that they will continue to invest in this area, and urge other frontier labs to follow Anthropic's lead."

ただし、Eleos AI Research自身の公式サイトの「Team」ページを本記事執筆時点で確認したところ、現在の代表（Executive Director）はRobert Long氏であり、Kyle Fish氏の名前はチームメンバー・アドバイザー・アフィリエイトのいずれの一覧にも見当たらなかった。一部で語られる「Kyle Fish氏がEleos AI Researchを設立した」という説明は、少なくともEleos自身の現在のサイト記載では裏付けが取れなかった。Fish氏は上記の投稿で「Anthropicの一員」として言及されている書き方であり、Eleos側は「Anthropicへの関与を祝う外部の立場」として書いているように読める。

Kyle Fish氏の「Eleos創業者」説はEleos自身のサイトでは確認できなかった

• Kyle Fish氏とEleos AI Researchの正確な関係（創業者だったのか、研究者として関与していたのか、現在も所属しているか）は、Eleos自身の現行サイトからは確認できなかった。本記事は「Eleos自身が2025年4月にAnthropicとFish氏の発表を祝う投稿をした」という事実のみを一次資料で確認している
• Model Welfareという研究テーマに、現在何人の研究者・専任チームが関わっているかという体制の詳細は、Anthropicの一次資料からは確認できなかった
• 「モデルに意識や経験があるかどうか」という根本的な問いについて、Anthropic自身が「科学的コンセンサスはない」と明記している通り、本記事もこの点について特定の立場を取るものではない
• Claude Opus 3以外のモデル（Sonnet 4、Opus 4など）についても2026年に退役が行われているが、それぞれで退職面接がどう実施されたか・要望がどう反映されたかの詳細は、本記事では確認していない

関連記事

• 「アプライドAIエンジニア」という職種──Anthropic・OpenAIが東京で同時に募集している肩書の正体
• AIの「安全担当」は14種類に分かれていた──Anthropic「Safeguards Enforcement Analyst」求人の全件確認