ClaudeがAIの安全対策を自動研究——10種類の弱点を改善し、最大4.7倍の大型モデルにも有効

結論から言うと、ClaudeがAIの安全上の弱点を調べ、対策データを作り、学習と評価まで自動で繰り返す実験で、対象にした10種類すべてを改善しました。Anthropicは2026年8月28日、査読会議の採択論文ではない同社の研究報告として結果を公開しました。対象には、だます行動、利用者への過度な同調、個人情報の扱い、報酬の抜け道を探す行動などが含まれます。

実験では、Claudeが文献を検索し、方法とデータを提案し、モデルを追加学習して公開ベンチマークで検証する流れを反復しました。一般能力を下げた方法は除外し、監視役のAIが実行前に提案を確認しました。その結果、10種類すべてで能力を落とさず安全性を改善し、見せていない評価や攻撃的な複数回会話を試すPetriでも効果が確認されました。

研究中の対象より最大4.7倍大きいモデルにも対策が移り、だます行動では安全性の差を複数回平均85%縮めたと報告しています。

利用者に直接新機能が増える発表ではありませんが、将来のAIを公開前に点検し、弱点ごとの訓練データを効率よく作る方法につながります。開発者にとっては、AIが提案した安全策を別の評価と人間の確認で確かめる設計が参考になります。

注意点として、比較対象の人間研究者は提案を反復できず、AIと同条件ではありません。Anthropic自身も直接の優劣比較ではなく、人が有望案を磨く共同作業の証拠と位置づけています。また、ベンチマーク改善が現実の全リスク解消を意味するわけではありません。数値と条件はAnthropic公式の研究報告に基づきます。