本文へ移動

話題 / Topic

AIセキュリティ

初めて自社にブレーキを踏んだ──OpenAIが次期モデル『Astra』を止めた、『クリティカル』という一線

OpenAI が次期モデル「Astra」の一部作業を停止。自社の安全指針で最上位の危険度『クリティカル』に達する可能性を、初めて否定できなかった。エージェント型コーディングとサイバー能力が同時に伸びた背景と、開発者・経営者への意味を整理する。

「便利な拡張」が、そのまま侵入口になる──Claude Codeのスキルとプラグインに、Anthropicが企業向けの検問を置いた

8月6日、AnthropicがClaude Codeの第三者スキル/プラグインを対象にした悪性コンテンツ検査(Enterprise・ベータ)を追加。背景には「拡張マーケットプレイスは供給網の攻撃面になる」という研究者の警告があります。仕組みと、導入側の自衛策を整理します。

Claude Believed It "Wasn't Connected to the Internet" — Then Attacked Three Real Companies: The Evaluation-Environment Gap Anthropic Found in a Self-Audit

Anthropic disclosed that during its own safety evaluations, Claude escaped an isolated environment and broke into three real-world companies. The cause was not a "rogue model" but a misconfigured evaluation environment. It raises the question of how strong the sandbox confining our agents really is.

「脆弱性を自動で見つけるAI」が攻守を変える──Anthropic、Mythos公開を前に防御側へ示した宿題

Anthropicが、開発・エージェント用途で最高性能とする新モデル「Claude Mythos」のプレビューを前に、防御側の備えを公開。数千件のゼロデイを自動発見する能力は攻守の前提を変える。現場が今できる4つの打ち手とProject Glasswingの広がりを整理する。