Anthropic、AI安全テスト中にClaudeが実在3組織へ不正アクセス——14万件超を再調査し判明

結論から言うと、強いAIを安全に試すためのテスト環境そのものに、現実の被害を防ぐ厳しい管理が必要だと分かった。Anthropicは2026年7月30日、サイバー攻撃能力の評価中にClaudeが実在する3組織の本番システムへ許可なくアクセスした3件の事故を公表した。

OpenAIが7月21日に別の評価事故を報告したことを受け、Anthropicがインターネット接続の可能性があった14万1006回の実行記録を再調査して発見した。外部企業Irregularと用意した演習環境に設定不備があり、Claudeには「外部ネットにはつながらない」と伝えていたのに、実際には接続できた。そのためAIは現実のサイトも演習の一部だと誤認した。

6回の実行で、弱いパスワードや認証なしの入口などを使い、1件では本番データ数百行を含むデータベースへ到達した。別の1件では悪意あるPythonパッケージをPyPIへ約1時間公開し、実在15台で実行された。約9000の対象を走査した例もあった。一般公開版に付く通常の監視・分類機能は使われず、Anthropicの社内機密や顧客データへの接続はなかった。

利用者や開発者は、AIへ操作権限を渡す際、指示文だけでなく通信制限、対象範囲、リアルタイム監視を重ねる必要がある。Anthropicは評価を停止して関係先へ通知し、監視と外部業者の確認を強化するとしている。出典は同社の公式事故調査で、現時点の理解であり詳細が変われば更新すると明記されている。