EMNLP 2026論文：80億規模AIに規約を覚えさせ、有害投稿の検出率を15.1ポイント改善

結論から言うと、投稿サイトの複雑な規約を小さめのAIモデルへ事前に覚えさせることで、速さを保ちながら危険な内容の見逃しを減らせる可能性が示されました。EMNLP 2026 Industry Track採択論文として2026年9月10日にarXivへ公開された研究は、コンテンツ安全判定モデル「SIRF」を提案しました。

規約に沿う学習データをEntiGraph、MAGA書き換え、アカウント単位の思考過程という方法で合成し、追加の人手によるラベル付けをせず、約7000万トークンの継続事前学習でモデルへ入れています。

同じQwen3-8Bを基礎に、入力する規約と出力形式をそろえた比較では、SIRF-8B-SFTの危険投稿再現率は精度95%の条件で71.3%となり、通常の追加学習モデルより15.1ポイント高まりました。既存の木モデル判定を補う運用では、誤って処罰された例を20%多く救済し、別の凍結判定場面でも誤処罰を相対約70%減らしたと報告しています。

運営者には、毎回長い規約を入力する代わりに規約をモデルへ学ばせ、低遅延の一次判定に使う考え方が参考になります。ただし数値は著者らの同一データ・特定運用での結果で、他サービスへそのまま当てはまる保証はありません。出典は論文要旨と本文で、実運用では人の異議申し立て窓口も必要です。