OllamaやGPT4Allの「中身」でもある、ローカルAI界を支える心臓部エンジン。
#軽量#低レイヤー
これは何?黒い画面(ターミナル)で動かすツール
できること
数年前のノートPCやなしのマシンでも、圧縮()されたAIモデルでチャット・要約・翻訳ができる。速度や メモリ使用量を細かく調整でき、突き詰めたい人には最も自由度が高い。
誰に効く?
古いPC・省メモリでAIを動かしたい人/細かく調整したい人
用意するもの
配布されている実行ファイル(またはビルド環境)。メモリ8GB〜
時間のめやす
15〜30分(AIに聞きながらコピペ)
使えるようになるまでの手順をひらく
- 「」という文字だけの画面を使います(Windowsなら PowerShell)
- GitHubページの「Installation」に書かれたコマンドを順番に実行
- つまずいたら、いつも使っているAIチャットに「(ツール名)のインストールを手伝って」と聞くのがおすすめ
こんな人には向かないかも
- 黒い画面(ターミナル)にまだ抵抗がある人
迷ったらこれ:いつも使っているAIチャット(ChatGPT・Claude・Geminiなど)にこのツールのGitHubリンクを貼って 「これを使いたい。私のPCでの始め方を一歩ずつ教えて」と頼むのが一番の近道です。
むずかしそう? 同じジャンルで、もっと始めやすいのはこちら
注意点
設定は中心。まず試すだけならOllamaやJanの方が早い。
ひとことメモ
完全ローカル実行。世界中の開発者が中身を検証している定番。
llama.cppについてよくある質問
- llama.cppは無料で使えますか?
- 無料で使えます。自分のパソコンの中で動くタイプなので、使った量に応じた料金もかかりません。
- llama.cppを使うのに、インストールや専門知識は必要ですか?
- コマンド入力(黒い画面)での操作が必要です。手順どおりに文字を打ち込む作業に慣れていないと、導入でつまずきやすいツールです。
- llama.cppはスマホでも使えますか?
- スマホには対応していません。パソコンが必要です。
- llama.cppは仕事(商用)で使えますか?
- ライセンスは MIT で、商用利用も認められています。ただし著作権表示を残すなどの条件が付くので、配布物に含める場合はライセンス本文を確認してください。
ローカルLLMのほかのツール
llama.cppが合わなかったときの、同じ用途の候補です。
bonsai-ternary-webgpu
ブラウザで動くAIチャット
準備がいる・黒い画面いらない
Ollama
自分のPCでAIモデルを動かす
はじめやすい・ターミナル操作あり
Open WebUI
ローカルAIをChatGPT風の画面で使う
はじめやすい・ターミナル操作あり
vLLM
AIモデルを高速・大量に動かす土台
はじめやすい・ターミナル操作あり
LocalAI
自前で立てる無料のAIサーバー
はじめやすい・ターミナル操作あり
text-generation-webui
ローカルLLMの多機能操作画面
はじめやすい・ターミナル操作あり
