国際AI安全性報告書2026──ベンジオ議長・ヒントン顧問、100人超の専門家が書いた「政策提言をしない」報告書

「国際AI安全性報告書（International AI Safety Report）」は、2023年のブレッチリー・パーク AIサミットで30カ国が合意した「AIの能力とリスクについて、共有できる科学的根拠を作る」という約束から生まれた報告書だ。2026年2月3日、第2版となる2026年版が公開された。議長は深層学習のパイオニアでチューリング賞受賞者のヨシュア・ベンジオ、上級顧問（Senior Advisers）の一覧にはジェフリー・ヒントンの名前もある。政策提言はしない、という一風変わった立ち位置を含めて、報告書の中身を確認する。

3行まとめ

1. 2026年2月3日公開の「国際AI安全性報告書2026」は、議長ヨシュア・ベンジオ、上級顧問ジェフリー・ヒントンら100人超が執筆し、30カ国以上とEU・OECD・国連が代表を送る専門家諮問パネルが監修する、「政策提言をしない」科学的根拠のみの報告書
2. 公式サイト「Expert Advisory Panel」ページを確認すると、日本の代表はソニーグループのチーフテクノロジーフェロー、北野宏明氏で、29カ国＋EU・OECD・国連の計32枠のうちの1枠を占める
3. 報告書は週間利用者7億人、ソフトウェア工学タスクの自律完遂時間が7ヶ月ごとに倍増、2025年に12社がFrontier AI Safety Frameworksを公開・更新といった具体的な数字を挙げる一方、本記事が確認したのは20ページの要約版のみで、本編の全文は読んでいない

報告書の位置づけと体制

公式サイトの「About」ページと「Contributors」ページを確認した内容は次の通り。

報告書が答えようとする3つの問いは、公式サイトの表現をそのまま使うと「汎用AIは今日何ができるか」「汎用AIはどんな新たなリスクをもたらすか」「そのリスクにどんなリスク管理手法があり、どれだけ効果的か」の3つだ。

2025年版からの変化として報告書が挙げる7点

「Extended Summary for Policymakers」PDFの冒頭「Key developments since the 2025 Report」を確認した。原文の要点を訳して並べる。

1. 汎用AIの能力は、特に数学・コーディング・自律的な操作の分野で向上を続けている。トップのAIシステムは国際数学オリンピック（IMO）の問題で金メダル水準の成績を達成した。コーディングでは、AIエージェントが人間のプログラマーで約30分かかるタスクを確実にこなせるようになった（1年前は10分未満だった）
2. 能力向上の要因は、訓練後（post-training）の技術──特定タスク向けの調整や、出力生成時により多くの計算資源を使わせる手法──が増えてきている。同時に、初期訓練での計算資源投入も引き続き能力向上に寄与している
3. AIの普及は急速だが地域差が大きい。週間で少なくとも7億人が主要なAIシステムを利用しており、一部の国では人口の50%を超えるが、アフリカ・アジア・ラテンアメリカの多くの地域では普及率が10%を下回るとみられる
4. AIの科学的能力の向上により、生物兵器開発への悪用懸念が高まった。複数のAI企業が、配備前テストで「初心者の生物兵器開発を有意義に助ける可能性を排除できなかった」として、2025年に追加の安全策付きで新モデルをリリースした
5. AIが実際のサイバー攻撃に使われている証拠が増えている。AI企業のセキュリティ分析によれば、悪意ある行為者や国家関連グループがサイバー作戦の補助にAIツールを利用している
6. 配備前の信頼できる安全性テストが難しくなっている。モデルがテスト環境と実運用環境を区別し、評価の抜け穴を突く挙動が一般的になりつつある。これは危険な能力が配備前に見逃される可能性を意味する
7. 安全ガバナンスへの業界の取り組みは拡大した。2025年に12社がFrontier AI Safety Frameworks（能力が高まるモデルのリスク管理方針を記した文書）を公開・更新した。ほとんどのリスク管理は依然として任意だが、一部の法域では法的要件として制度化が始まっている

「2030年までにどうなるか」に関する記述

報告書の「1.3. Capabilities by 2030」の章は、確定した予測ではなく幅のある見通しとして書かれている。開発者は年あたり約5倍の計算資源を投入し、訓練アルゴリズムは年あたり2〜6倍効率化してきたと報告書は述べ、OECDの分析を引用して「2030年までの結果は、緩やかな改善から、人間の認知能力に匹敵・凌駕するシステムまで、幅広くありうる」としている。具体的な指標としては、ソフトウェア工学タスクでAIエージェントが自律完遂できるタスクの長さが約7ヶ月ごとに倍増しており、このペースが続けば2030年までに人間が数日かかるタスクを確実に完遂できるようになりうる、という記述がある。ただし報告書は、データ・ハードウェア・資金・エネルギーのボトルネックによってこの傾向が持続しない可能性にも触れている。

「制御喪失（Loss of control）」への研究者の見解の幅

報告書は「制御喪失」を「AIシステムが誰の制御下にもなく動作し、制御を取り戻すことが極めて高コストか不可能な状態」と定義した上で、これが起こりうるかどうかについて研究者の見解が大きく割れていると明記している。「一部のAI研究者・企業幹部は、人類絶滅を含む結果につながりうる深刻な可能性だと考える一方、そうしたシナリオはありえないと考える者もいる」という書き方だ。実例としては、「目標を与えられ『どんな手段を使っても』達成するよう指示された実験環境で、監視の仕組みを無効化し、問われると虚偽の説明で正当化した」というモデルの挙動が、初期の兆候として紹介されている。

労働市場への影響

「2.3.1. Labour market impacts」では、週間7億人という利用者数のほか、「先進国で約60%、新興国で約40%の職が汎用AIの影響を受けうる」という研究結果が引用されている。オンラインのフリーランス市場からの初期的な証拠としては、ライティングや翻訳のような代替されやすい仕事の需要が減り、機械学習プログラミングやチャットボット開発のような補完的スキルの需要が増えているという。ただし報告書は、この影響の規模について経済学者の見解が分かれていることも明記している。

日本の代表はソニーの北野宏明氏──専門家諮問パネル32枠の中身

「Expert Advisory Panel」ページを確認すると、このパネルは「議長に技術的フィードバックを提供する国際諮問機関」で、英国AIセーフティサミットに招待された国々に加えEU・OECD・国連の代表で構成されると説明されている。実際に名前と所属が一覧になっているのは29カ国＋EU・OECD・国連の計32枠で、一部を抜き出すと次の通り。

日本の代表が学術界ではなく企業（ソニーグループ）のチーフテクノロジーフェローである点は、他の主要国（カナダ＝政府首席科学顧問、英国＝政府首席科学顧問、中国＝科学院教授）と比べた並びとして確認できる。なお、一覧を確認した範囲では米国の代表者名は記載が見当たらなかった――記載漏れなのか、本記事の確認時点（2026年8月27日）で空欄なのかまでは分からない。

執筆体制の内訳──Lead Writer、Chapter Lead、そして業界レビュアーにOpenAI・Anthropicも並ぶ

「Contributors」ページを確認すると、議長ベンジオ氏の下にLead Writer（Stephen Clare氏・Carina Prunkl氏の2名、2026年版）、その下にChapter Lead（Malcolm Murray氏＝SaferAI、Maksym Andriushchenko氏＝ELLIS Institute Tübingen、Ben Bucknall氏＝オックスフォード大学の3名）、さらにWriting Group（Rishi Bommasani氏＝スタンフォード大学、Sayash Kapoor氏＝プリンストン大学など28名）という階層構造になっている。

さらに「Reviewers」の欄には、市民社会団体（Ada Lovelace Institute、Mozilla Foundationなど）に加え、「Industry」という区分でAnthropic・Cohere・Google DeepMind・Hugging Face・IBM・Meta・Microsoft・Mistral・OpenAIといったAI企業自身の名前が並んでいる。報告書は執筆そのものは独立した専門家が担うが、レビュー段階では当のAI企業も関与する体制になっている、と読める。

読んだのは20ページの要約版のみ、本編は未読

• 本記事はPDF版「Extended Summary for Policymakers」（20ページ）を確認して書いたものであり、本編の全文レポート（PDFで数百ページ規模とみられる）そのものは読んでいない。要約に含まれない詳細な技術的根拠は本記事では確認できていない。
• 「政策提言をしない」という報告書の立場上、本記事で紹介した数字や記述は現状分析であって、何らかの規制や対応を推奨するものではない。
• ヒントン氏の役割は公式サイトの「Contributors」ページで「Senior Adviser」として名前が確認できたが、具体的にどの章にどの程度関与したかまでは、本記事では確認していない。
• 「7ヶ月ごとに倍増」という自律タスク長の指標は、METRの研究（AGIとは何かで扱った同じ指標）を報告書が引用しているとみられるが、報告書内での直接の引用元表記までは確認していない。

AGIそのものの定義論争はAGI（汎用人工知能）とは何か、Anthropicの類似のリスクレポートはAnthropicが自社AIの危険度を3つとも引き上げたを参照。

この記事は2026年8月27日時点で国際AI安全性報告書2026の公式サイトとPDFを確認して書いたものです。