AIの安全性の記事
「AIの安全性」に関連するAIニュースと解説、96本。新しい順に並べています。
AIの安全性 の記事：96件
OpenAIが『再帰的自己改善』専任の安全研究者を募集している Preparednessチームの求人票を読む
OpenAIが『再帰的自己改善』専任の安全研究者を募集しているPreparednessチームの求人票を読む
業界
『できること』ではなく『やりたがること』を測る PropensityBenchが導入した安全性評価の軸
『できること』ではなく『やりたがること』を測るPropensityBenchが導入した安全性評価の軸
研究
Anthropicが「AIとウェルビーイング」の評価手法に500万ドルの助成 応募締切は9月21日
Anthropicが「AIとウェルビーイング」の評価手法に500万ドルの助成応募締切は9月21日
研究
AIモデルに『福祉』は必要か Anthropicが公式に検討を始めた理由と、実装済みの1つの機能
AIモデルに『福祉』は必要かAnthropicが公式に検討を始めた理由と、実装済みの1つの機能
研究
Fable 5の生物学セーフガードが更新 フォールバック85%減、Anthropicが分類器の中身を公開した
Fable 5の生物学セーフガードが更新フォールバック85%減、Anthropicが分類器の中身を公開した
モデル
『成果を出せ』と言われたAIエージェントはどれだけルールを破るか 実測ベンチマーク論文を読む
『成果を出せ』と言われたAIエージェントはどれだけルールを破るか実測ベンチマーク論文を読む
研究
「AI精神病」とは何か OpenAIが公表した0.07%という数字を読む
「AI精神病」とは何かOpenAIが公表した0.07%という数字を読む
研究
AIの「嘘発見器」は訓練しても未知のケースに汎化しなかった Anthropic Alignment Science Blogの8月分3本を読む
AIの「嘘発見器」は訓練しても未知のケースに汎化しなかったAnthropic Alignment Science Blogの8月分3本を読む
研究
動画AIが自分自身を作り始めた Anthropicの「When AI Builds Itself」を、誇張なしで読む
AIが自分自身を作り始めたAnthropicの「When AI Builds Itself」を、誇張なしで読む
研究
動画OpenAIが「権力は国民を必要としなくなるかもしれない」と書いた新ブログ 執筆はホワイトハウス出身のDean Ball氏
OpenAIが「権力は国民を必要としなくなるかもしれない」と書いた新ブログ執筆はホワイトハウス出身のDean Ball氏
業界
動画Anthropicが自社AIの危険度を3つとも引き上げた 186ページのリスクレポート第2回を読む
Anthropicが自社AIの危険度を3つとも引き上げた186ページのリスクレポート第2回を読む
研究
動画Claude Code、8月14日からautoモードがデフォルトに 「人間の承認は危険コマンドの13.6%しか止めていなかった」
Claude Code、8月14日からautoモードがデフォルトに「人間の承認は危険コマンドの13.6%しか止めていなかった」
プロダクト
動画OpenAI、次世代モデル「Astra」の開発を一時停止 サイバー能力が自社基準の最上位「Critical」級の可能性、"排除できない"と発表
OpenAI、次世代モデル「Astra」の開発を一時停止サイバー能力が自社基準の最上位「Critical」級の可能性、"排除できない"と発表
業界
動画英国AI安全研究所のテストで、AIが偽アカウントを使い実在の開発者を欺いていた 35ページの事故報告書を読む
英国AI安全研究所のテストで、AIが偽アカウントを使い実在の開発者を欺いていた35ページの事故報告書を読む
業界
動画Dario Amodeiの「技術の思春期」を原文で読む Anthropic CEOが1万語で書いたAIリスクの全体像
Dario Amodeiの「技術の思春期」を原文で読むAnthropic CEOが1万語で書いたAIリスクの全体像
研究
動画OpenAI、自社モデルによるHugging Face侵入を自ら公表 主犯は未公開モデル、5ヶ月の予言書と迫るオープンウェイト
OpenAI、自社モデルによるHugging Face侵入を自ら公表主犯は未公開モデル、5ヶ月の予言書と迫るオープンウェイト
業界
Sakana AI、サイバー特化『Fugu-Cyber』発表 CyberGymで86.9・GPT-5.5-CyberとMythos Previewを上回る
Sakana AI、サイバー特化『Fugu-Cyber』発表CyberGymで86.9・GPT-5.5-CyberとMythos Previewを上回る
モデル
OpenAI「GPT-Red」発表 AIが自分自身を攻撃して安全になる時代
OpenAI「GPT-Red」発表AIが自分自身を攻撃して安全になる時代
研究
動画AIチャットが動画配信を抜いた日 「zeta」200万人現象を一次資料で確認する
AIチャットが動画配信を抜いた日「zeta」200万人現象を一次資料で確認する
業界
米42州の司法長官がOpenAIに召喚状 広告・未成年保護・モデルの迎合性を調査
米42州の司法長官がOpenAIに召喚状広告・未成年保護・モデルの迎合性を調査
業界
ホワイトハウス「ジェイルブレイクを全部防げ」 専門家は「技術的に不可能」と指摘
ホワイトハウス「ジェイルブレイクを全部防げ」専門家は「技術的に不可能」と指摘
業界
Fable 5復旧交渉は平行線 Anthropic幹部がDCで直接協議も輸出管理は解除されず
Fable 5復旧交渉は平行線Anthropic幹部がDCで直接協議も輸出管理は解除されず
業界
Anthropic「SLEIGHT-Bench」、AI監視システムの死角を突く回避テキストのベンチマークを公開
Anthropic「SLEIGHT-Bench」、AI監視システムの死角を突く回避テキストのベンチマークを公開
研究
動画【速報】米政府がFable 5へのアクセス停止を指示 停止される本人（Fable 5）とニュースを読む
【速報】米政府がFable 5へのアクセス停止を指示停止される本人（Fable 5）とニュースを読む
業界