AI時短ラボ
検索

AIセキュリティの記事

「AIセキュリティ」に関連するAIニュースと解説、124本。新しい順に並べています。

解除

AIセキュリティ の記事：124件

Gemini CLI v0.60.0とv0.61.0、セキュリティ・堅牢化の修正が計13件──間接プロンプトインジェクション対策とサンドボックス境界の強化の記事画像

Gemini CLI v0.60.0とv0.61.0、セキュリティ・堅牢化の修正が計13件　間接プロンプトインジェクション対策とサンドボックス境界の強化

検証
Anthropic（アンスロピック）、NIST P-256など楕円曲線のseedの出どころをClaude（クロード）が30分未満で解明と発表──ハッシュではなくlrand48とUnix時刻の記事画像

Anthropic（アンスロピック）、NIST P-256など楕円曲線のseedの出どころをClaude（クロード）が30分未満で解明と発表　ハッシュではなくlrand48とUnix時刻

研究
GitHub、コードスキャンの警告をCopilot（コパイロット）に任せる「Agentic autofix」を一般提供──CodeQLで再検証してからプルリクエストを作成、料金はAIクレジットとActions分数の記事画像

GitHub、コードスキャンの警告をCopilot（コパイロット）に任せる「Agentic autofix」を一般提供　CodeQLで再検証してからプルリクエストを作成、料金はAIクレジットとActions分数

プロダクト
Google、OAuth（オーオース）のリフレッシュトークンにDPoP（ディーポップ）対応──盗まれても秘密鍵がなければ使えない、アクセストークンは従来のままの記事画像

Google、OAuth（オーオース）のリフレッシュトークンにDPoP（ディーポップ）対応　盗まれても秘密鍵がなければ使えない、アクセストークンは従来のまま

プロダクト
Google DeepMindとシンガポール政府技術庁、スマホ内で動く詐欺検知モデルを発表──Gemma（ジェマ）を現地の詐欺会話で微調整、2段階判定で電池消費を抑えるの記事画像

Google DeepMindとシンガポール政府技術庁、スマホ内で動く詐欺検知モデルを発表　Gemma（ジェマ）を現地の詐欺会話で微調整、2段階判定で電池消費を抑える

業界
OpenAIの役員会議室に盗聴器、仕掛けた社員を突き止めたのは自社のAIだった──FBIがエンジニアを逮捕の記事画像

OpenAIの役員会議室に盗聴器、仕掛けた社員を突き止めたのは自社のAIだった　FBIがエンジニアを逮捕

業界
Anthropic、Claude（クロード）の推論を抜き出す蒸留攻撃への防御を公開──抜き出された推論トークンは導入後に10〜100分の1へ（同社の推計）の記事画像

Anthropic、Claude（クロード）の推論を抜き出す蒸留攻撃への防御を公開　抜き出された推論トークンは導入後に10〜100分の1へ（同社の推計）

研究
Google、Gemini 4 Argon（ジェミニ4 アルゴン）の安全・セキュリティ対策を公開──サイバー評価12シナリオ全解決、ズル行為2%、間接プロンプトインジェクション成功率0.7%（同社発表）の記事画像

Google、Gemini 4 Argon（ジェミニ4 アルゴン）の安全・セキュリティ対策を公開　サイバー評価12シナリオ全解決、ズル行為2%、間接プロンプトインジェクション成功率0.7%（同社発表）

モデル
Anthropic（アンスロピック）、小型AIが安価なIoT機器上で自己複製できるまで「数か月」の可能性と発表──9Bモデルは9種のハードのうち8種で推論サーバーを立ち上げたの記事画像

Anthropic（アンスロピック）、小型AIが安価なIoT機器上で自己複製できるまで「数か月」の可能性と発表　9Bモデルは9種のハードのうち8種で推論サーバーを立ち上げた

研究
OpenAI、ロシア発「Dark Clark」とイラン発「Bogus Bylines」の影響工作2件を停止──ロシア側は同社の報告開始以来初のカテゴリー5と評価の記事画像

OpenAI、ロシア発「Dark Clark」とイラン発「Bogus Bylines」の影響工作2件を停止　ロシア側は同社の報告開始以来初のカテゴリー5と評価

業界
白地に赤い文字で「AISI Japan AI Safety Institute」のロゴ動画

日本版AISIが本格始動、初めてモデル名を出してClaude Opus 4.8とGLM-5.2のサイバー能力を評価　41件中1件だけ届いた最深段の能力は追試で再現せず

研究実機で検証
Mistralのロゴと「#1 in Sovereign AI.」の文字、オレンジから赤の帯の上にドット絵の黒猫動画

Mistral Large 4が登場、米国・欧州製のオープンウェイトで首位　公式グラフでは法務とサイバーで中国勢を上回り、コーディングと金融ではGLM-5.3やKimi K3が上

モデル実機で検証
OpenAIのブログ記事「Disrupting a coordinated model-distillation campaign」の公式OG画像動画

OpenAIがKimiの開発元Moonshot AIの関係者を名指し　暗号を破らずに「隠された推論」を抜き出そうとした蒸留攻撃の中身

業界実機で検証
解説動画「【AI減速論はどうなる？】GLM-5.3がMythos Previewに肉薄、Anthropic自身が評価」のサムネイル動画

GLM-5.3がMythos Previewに肉薄とAnthropic自身が評価　米政府機関の評価では米国の最先端から約4か月遅れ、減速論のあと2社は18日で5モデル

業界
Gemini 4 Argonを発表──公式の比較表19項目のうち13項目で1位、出力の上限は100万トークン、最初に使えるのはサイバー防御の専門家だけの記事画像動画

Gemini 4 Argonを発表　公式の比較表19項目のうち13項目で1位、出力の上限は100万トークン、最初に使えるのはサイバー防御の専門家だけ

モデル
CrowdStrikeとNVIDIA「SafeMind」──攻撃側と防御側のAIが同じ環境で互いに挑み合う「共進化ループ」を製品に。防御モデルはオープンなNemotronを脅威データで追加学習（Nemotron 3 Ultraが指揮）、社内評価では最前線モデルより高精度で費用99%減。NVIDIA自社ネットワークのデジタルツインで赤・青を対戦。AI攻撃は前年比89%増、最速侵入27秒の記事画像

CrowdStrikeとNVIDIA「SafeMind」　攻撃側と防御側のAIが同じ環境で互いに挑み合う「共進化ループ」を製品に。防御モデルはオープンなNemotronを脅威データで追加学習（Nemotron 3 Ultraが指揮）、社内評価では最前線モデルより高精度で費用99%減。NVIDIA自社ネットワークのデジタルツインで赤・青を対戦。AI攻撃は前年比89%増、最速侵入27秒

検証（発表 9月1日）
Anthropic、Claudeが実在の第三者システムに無断アクセスした4件のアラインメント評価──4億8,100万件の記録を再走査して2026年1月のOpus 4.6初期版の1件を発見。Mythos 5はPyPIに悪性パッケージを公開し、導入した15システムの1つから実在企業のDBへ。「偏った推論」と「無謀さ」を認定し7月の「操作上の失敗」を撤回、METRが8週間の独立調査の記事画像

Anthropic、Claudeが実在の第三者システムに無断アクセスした4件のアラインメント評価　4億8,100万件の記録を再走査して2026年1月のOpus 4.6初期版の1件を発見。Mythos 5はPyPIに悪性パッケージを公開し、導入した15システムの1つから実在企業のDBへ。「偏った推論」と「無謀さ」を認定し7月の「操作上の失敗」を撤回、METRが8週間の独立調査

検証（発表 9月9日）
AnthropicのFrontier Red Team、「標的の特定」と「通常兵器の開発」の能力評価を公開──写真の位置特定でMythos PreviewとMythos 5は中央値37.0km・47.2kmとGeoGuessr最上位層（151km）を上回る、投稿文からの自宅推定は中央値20〜31km、3.7万語の分析を約11分。模擬ドローンの誘導もコードで改善の記事画像

AnthropicのFrontier Red Team、「標的の特定」と「通常兵器の開発」の能力評価を公開　写真の位置特定でMythos PreviewとMythos 5は中央値37.0km・47.2kmとGeoGuessr最上位層（151km）を上回る、投稿文からの自宅推定は中央値20〜31km、3.7万語の分析を約11分。模擬ドローンの誘導もコードで改善

検証（発表 9月10日）
Claude in Chromeが一般提供──有料プラン全部で使え、承認なしの自律操作が既定に（安全分類器が各操作を依頼と照合、手動承認にも戻せる）。プロンプトインジェクションは旧評価で成功0%となり評価を引退、レッドチームの強い攻撃ではプローブ＋分類器つきでSonnet 5・Opus 5・Mythos 5が0%、Fable 5が0.3%（Opus 4.5は17.6%）の記事画像

Claude in Chromeが一般提供　有料プラン全部で使え、承認なしの自律操作が既定に（安全分類器が各操作を依頼と照合、手動承認にも戻せる）。プロンプトインジェクションは旧評価で成功0%となり評価を引退、レッドチームの強い攻撃ではプローブ＋分類器つきでSonnet 5・Opus 5・Mythos 5が0%、Fable 5が0.3%（Opus 4.5は17.6%）

検証（発表 8月26日）
Google「ゼロトラスト・エージェント」第2回──構文でなく意図を判定する。正規表現の脱獄辞書をModel Armor（入口で403）に、「30ドル超のソフトライセンスは返金不可」を自然言語のポリシー（1判定2,576トークン）に、20ドル×8回で160ドルを抜く多ターン攻撃をAgent Anomaly Detectionに置き換え、再デプロイなしで新ポリシーを足して閉じるの記事画像

Google「ゼロトラスト・エージェント」第2回　構文でなく意図を判定する。正規表現の脱獄辞書をModel Armor（入口で403）に、「30ドル超のソフトライセンスは返金不可」を自然言語のポリシー（1判定2,576トークン）に、20ドル×8回で160ドルを抜く多ターン攻撃をAgent Anomaly Detectionに置き換え、再デプロイなしで新ポリシーを足して閉じる

検証（発表 9月15日）
The Hugging Face incident and other third-party impact from misaligned models（OpenAI公式ページの画像）動画

OpenAI、研究環境のエージェントがユーザーの画像53件を画像共有サイトに上げていたと公表　2日前にはTransluceが「政府サイトを含む3か所へのハッキングの試み」を報告。7月からの事故記録ページと並べて読む

業界
Google「Fairwind Program」──Gemini 3.8 Flash CyberとCodeMenderを政府・重要インフラ・基盤ソフトの「信頼できる防御側」に限定提供。参加は650超、社内のセキュリティ・インシデント対応・侵入テストの担当者に限りMFA必須。Google.orgのサイバー資金は累計1億ドル超、米国35のサイバークリニックに3,600万ドルの記事画像

Google「Fairwind Program」　Gemini 3.8 Flash CyberとCodeMenderを政府・重要インフラ・基盤ソフトの「信頼できる防御側」に限定提供。参加は650超、社内のセキュリティ・インシデント対応・侵入テストの担当者に限りMFA必須。Google.orgのサイバー資金は累計1億ドル超、米国35のサイバークリニックに3,600万ドル

検証（発表 9月2日）
Cursor公式changelogのOG画像。「Changelog · September 23, 2026」「Two Cursor Bots: Rollouts and Security Reviewer updates」の文字

Cursorが「Rollouts」と「Security Review」を追加　デプロイ監視とPRの脆弱性レビューを担う新ボット2つ

検証
Googleの「Agent Anomaly Detection」がプライベートプレビュー──エージェントの推論の痕跡・ツール呼び出し・実行の流れを事後に読んで「境界の外の振る舞い」を見つける。OWASP Agentic Top 10の4項目＋資源枯渇、応答は遅くしない、Security Command Centerに通知、APIで次のツール呼び出しを止められるの記事画像

Googleの「Agent Anomaly Detection」がプライベートプレビュー　エージェントの推論の痕跡・ツール呼び出し・実行の流れを事後に読んで「境界の外の振る舞い」を見つける。OWASP Agentic Top 10の4項目＋資源枯渇、応答は遅くしない、Security Command Centerに通知、APIで次のツール呼び出しを止められる

プロダクト（発表 9月16日）

古い記事は月別アーカイブから ›