Mistral、画像も文章も安全判定する「Shieldstral」公開——30億規模、16GB GPUで動作

結論から言うと、Mistralは文章と画像の安全性を、サービスごとの基準に合わせて判定できる小型AI「Shieldstral」を公開した。2026年8月4日の公式発表によると、モデルは30億パラメータで、重みはApache 2.0ライセンス。単一の16GB NVIDIA GPUで動かせる。

従来の安全判定AIは危険の分類を学習時に固定しがちだが、Shieldstralは実行時に「未成年に見せてよい画像か」「暴力を勧めているか」のような自然文の質問を渡し、yesとnoの確率から連続した安全スコアを返す。入力は指示、判定質問、対象文書の3部分で、利用者の質問、AIの回答、両者の組み合わせ、画像と任意の文章に対応する。

Mistralは、文章の安全性、拒否判定、方針への適応、画像を含む安全性の4軸で、最大7倍の規模の公開ガードモデルに並ぶか上回ったとしている。自社チャットや画像投稿サービスを作る人は、再学習せずに年齢や用途に合わせた判定基準を試しやすい。ただし比較はMistral自身の評価で、日本語性能や長文への強さは今後の課題と明記されている。

誤判定は残るため、確率のしきい値を検証し、重要な削除や利用停止をAIだけで決めない運用が必要だ。