ローカルLLM

llama.cpp

無料

OllamaやLM Studioの土台にもなっている、ローカルでLLMを動かすための中核エンジン。

  • ggml.ai(Georgi Gerganov/ggml-org)
  • 日本語◎(対応モデルをGGUF化すれば動作)
  • 最終確認日 2026-10-24
役割:実行アプリ・エンジン

モデルを読み込んで動かす土台。画面つきの製品なら、別のチャット画面を追加せずに始められます。

同じ役割の一覧と組み合わせを見る

what it does

何ができる

使い方の例

  • GGUF形式のモデルを手元のPCで動かす
  • OpenAI互換サーバーを立てて他アプリから使う
  • モデルを量子化して省メモリで実行する

得意なこと

  • 自分のPCでLLMを動かす(GGUF形式)
  • CPU/GPU(Metal/CUDA/ROCm)で高速推論
  • OpenAI互換サーバーを立てる
  • モデルを量子化して省メモリで実行
こんな人におすすめ
  • 無料・オフラインで軽く速くLLMを動かしたい人
  • 自分でコマンドやサーバーを扱える中級者
向いていない場面
  • クリック操作だけで完結させたい初心者(GUIならLM StudioやJan)
llama.cppを使ってみる
PR

llama.cppを学ぶ教材

広告(アフィリエイト)リンクを含みます。

start

始め方

GitHubから入手(brew install llama.cpp 等)→GGUFモデルを指定して実行

safety

注意点

動かすモデルごとにライセンス・利用条件が異なるため個別に確認。生成物の商用可否は使用モデルの規約に従う。

faq

llama.cppのよくある質問

llama.cppは無料で使えますか?
無料枠:完全無料(MITライセンス・オープンソース)(2026-10-24時点)
llama.cppの料金はいくらですか?
無料(0円・自分のPC/サーバーで動かす)(2026-10-24時点)
llama.cppで何ができますか?
自分のPCでLLMを動かす(GGUF形式)、CPU/GPU(Metal/CUDA/ROCm)で高速推論、OpenAI互換サーバーを立てる、モデルを量子化して省メモリで実行
llama.cppは日本語で使えますか?
日本語◎(対応モデルをGGUF化すれば動作)
llama.cppの始め方は?
GitHubから入手(brew install llama.cpp 等)→GGUFモデルを指定して実行
llama.cppはどんな人に向いていますか?
無料・オフラインで軽く速くLLMを動かしたい人、自分でコマンドやサーバーを扱える中級者
llama.cppを使うときの注意点は?
動かすモデルごとにライセンス・利用条件が異なるため個別に確認。生成物の商用可否は使用モデルの規約に従う。
広告
広告

AI news

llama.cppの最新ニュース

AIニュース一覧

関連するガイド

manapick family

manapickの関連サイト