OpenAI、ChatGPTの10代向け武器情報制限を強化：暴力防止の定期報告も2027年初頭から

OpenAIは10月30日（米国時間）、ChatGPTの暴力防止の取り組みを強めると発表しました。18歳未満の利用者への武器関連の情報提供をさらに制限し、暴力防止の取り組みを定期的に公表する「Community Safety Report」を始めることが柱です。

18歳未満向けの「ChatGPT for Teens」では、質問が無害に見えても、暴力に悪用されうる武器や防犯システムについての実用的な情報をこれまでより受け取れなくなります。すでに、暴力を計画・実行する手助けや、10代が武器を入手する手助けは禁止されていました。今回はその範囲を広げた形です。

全利用者向けにも、過去の大量殺傷事件についての再現的な説明を抑えます。使われた武器や入手方法の詳細、被害規模の比較など、加害者の知名度を高めかねない詳しい情報は、これまでより少なくします。2026年第3四半期には、差し迫った暴力の脅威として法執行機関へ200件超の通報を行ったことも公表しました。

10代の利用者は、武器や防犯システムの実用的な質問への答えが短く・限定的になる場合があります。一方で、暴力を防ぐ相談や気持ちの整理、信頼できる大人へのつなぎには引き続き使えます。保護者は、子どもとアカウントを連携するペアレンタルコントロールで設定を一緒に管理できます。

対策は今後数週間で順次始まるため、すべての利用者に一度に届くものではありません。最初の「Community Safety Report」は2027年初頭に、2026年後半分を対象に公表され、その後は半年ごとに更新されます。出典はOpenAI公式の発表で、11月2日に確認しました。