EMNLP 2026関連論文：文書AIの省電力化、まとめ処理で1ページ当たり38〜85%削減

結論から言うと、機密文書を小型のローカルAIで読み取るときは、どの文書にも同じ処理を使うより、レイアウトの複雑さに合わせて入力方法を選ぶ方が正確で省電力になると分かりました。EMNLP 2026のDocInsightsに採択された論文は、クラウドへ送れない文書を想定し、80億パラメータ以下の文章専用モデルと画像・文章モデルを、精度と電力の両方で比較しました。

対象は文章中心の秘密保持契約Kleister-NDAと、配置が複雑な帳票VRDUです。最も大きな省電力策は複数ページをまとめて処理するバッチ化で、精度を落とさず1ページ当たりの電力を38〜85%削減しました。FP8量子化は1件ずつ処理すると27〜32%減りましたが、バッチ化後は1ページ1mWh未満、割合では9〜19%の削減に縮まりました。

またニューラルOCRは従来型OCRの17倍の電力を使い、精度と電力の両方で優れた選択肢にはなりませんでした。複雑な帳票は画像・文章モデル、文章中心の文書は安価な解析器と小型文章モデルが有利でした。企業や学校で個人情報を外へ出さずに文書整理する場合、まずまとめ処理と文書別の経路選択を検討する材料になります。ただし結果は2種類のデータセットと特定構成での比較です。

別の機器や日本語文書でも同じ割合になるとは限りません。数値はarXiv掲載要旨に基づきます。