Anthropic、Claude悪用報告を公開——攻撃AIが検知後のマルウェア改変まで自動化

結論から言うと、Anthropicは2026年9月10日、Claudeの悪用を調べた脅威情報報告を公開し、AIが質問に答える補助役から、サイバー攻撃の複数工程を動かす役へ進んだと警告しました。対象は2025年12月から2026年8月に同社が発見・遮断した事例で、サイバー攻撃、監視、影響工作、詐欺、生物分野の悪用など7領域を扱います。

なかでもロシア国家との関係が疑われる集団は、標的調査、フィッシング基盤の構築、侵入、情報の持ち出しにAIを利用し、防御製品にマルウェアを検知されると自動で改変・再構築する流れも作っていました。計画や偵察、実際の攻撃対象は20組織超に及びました。別の金銭目的の集団では、10台のAWS EC2で180万個のAndroidアプリを調べ、埋め込まれた認証情報を探したと報告されています。

利用者に重要なのは、APIキーをコードやアプリへ残さず、権限を必要最小限にし、利用量や不審な接続を監視することです。ただし、掲載事例は代表的・新規性の高い悪用例で、Claude利用全体の一般的な割合ではありません。Anthropicは関係アカウントを停止し、必要に応じて当局や業界へ情報を共有したと説明しています。