スマホで毎秒30トークン、2.5GB未満——Liquid AIの2.6B小型AIが128K文脈とツール操作

結論から言うと、スマートフォンやパソコンの中だけで動かしやすい2.69B規模のAIに、長文処理と道具操作を組み合わせた新モデルが登場した。Liquid AIは2026年8月4日、「LFM2.5-2.6B」と学習前段階のBase版をHugging Faceで公開した。約34兆トークンで事前学習し、最大131,072トークンの文脈、日本語を含む16言語、関数呼び出しに対応する。

実際のエージェント基盤内で強化学習し、調査、文書作成、データ分析など複数手順の作業を想定した。公式測定ではメモリ2.5GB未満で、Apple M5 Maxが毎秒220トークン、Ryzen AI Max+ 395が毎秒113トークン、スマートフォンでも毎秒30トークンとしている。ToolSandboxは77.83で、約9.7B規模のQwen3.5-9Bの76.44を上回った。

一方、コード生成や知識量が重要な仕事では大きなモデルを推奨すると公式自身が注意する。GGUF、MLX、ONNX形式があり、llama.cpp、LM Studio、vLLMなどへ初日から対応する。重みは入手・調整できるがLFM Open License v1.0で、一般的なオープンソースソフトと同じ条件とは限らない。

速度と評価値は指定機材・設定での提供元測定なので、自分の端末と日本語用途で確認したい。