what it does
何ができる
APIもGPUも不要で、手元のPCだけでLLMを動かせる無料・オープンソースアプリ。
たとえば、こんなことができます
- オフラインのノートPCでAIチャットをする
- 社内文書フォルダをLocalDocsに読ませて質問する
- 無料でLlama 3やMistralを試し比べる
得意なこと
- インターネット不要でPCの中だけでAIと対話
- 手元の書類とローカルで会話(LocalDocs)
- 1000以上のオープンモデルを選んで実行
- Pythonから呼び出して自動化
- データを外に出したくない人
- 無料でローカルLLMを始めたい初心者
- 最新の超大型モデル並みの精度を求める人
- スマホだけで使いたい人
日本語対応:アプリUIは英語中心。日本語対応モデルを読み込めば日本語で対話できる / 主なモデル:Llama 3 / Mistral / Nous-Hermes / DeepSeek R1蒸留 など1000以上のGGUFモデルに対応