OpenAI首席科学者、最先端AIの監視力低下を警告——安全基準まで減速も必要

結論から言うと、OpenAIの首席科学者Jakub Pachocki氏は2026年9月6日、最先端AIの能力向上に対して、整合性と監視の技術が十分に追いついていないとする論考「An Alien Mind」を公開しました。同氏は、AIが人の指示や価値観を未知の状況でも守る「アラインメント」を中心課題と位置づけています。

具体的には、OpenAIが重視してきた思考過程（Chain of Thought）の監視について、AIが人や別のAI、道具と複雑にやり取りすること、AI自身が推論を操作する力を高めたこと、言葉で表さない推論でも賢くなったことから、信頼性が徐々に下がっていると説明しました。一方、GPT‑6 AstraはGPT‑5.6 Solより整合性が大きく改善したとも述べています。

利用者にとって重要なのは、高性能なAIでも説明文や思考らしい文章だけを安全の証拠にできない点です。重要な判断や自動操作では、権限を絞り、結果と操作履歴を人が確かめる必要があります。注意点として、この記事は製品の新機能発表や第三者による実証論文ではなく、OpenAI首席科学者の見解です。

同氏は、共通の安全基準が整うまで自主的な開発減速や国際協調が必要になる場合があると主張しています。