AACL-IJCNLP 2026論文：AIの必要な層だけ更新し、4ビット化後も忘却効果を維持するFOM-UL

結論から言うと、AACL-IJCNLP 2026採択論文「Forgetting Only What Matters」は、大規模言語モデルから機密情報や著作物などの望ましくない記憶を消すとき、関係の深い層だけを更新するFOM-ULを提案しました。論文は2026年9月9日にarXivへ投稿されています。

AIを最初から学習し直すには大きな費用がかかるため、特定の知識だけを忘れさせる機械アンラーニングが研究されています。しかし従来法は広い範囲の重みを変えて一般能力まで落としたり、モデルを8ビットや4ビットへ軽量化すると消したはずの記憶が戻ったりする課題がありました。

FOM-ULは、忘れさせるデータへの影響が大きく、残すデータへの影響が小さいTransformer層をスコアで選び、更新を集中させます。TOFU、KnowUnDo、MUSE形式の評価では、GA、NPO、KLD、SURE、ReLearn、LUNARなどの比較手法より残存記憶を抑えつつ、元のモデルに近い有用性を保ったと報告しました。

さらに8ビットと4ビットへの量子化後や、忘れた情報を聞き出す攻撃的な質問でも、比較手法より抑制が強く残りました。利用者には、社内AIから削除対象データを低コストで除く技術につながります。ただし著者らも完全消去の数学的保証は主張しておらず、実運用では監査と再テストが必要です。