自分の端末やサーバーで動かせる、プライベートなLLMチャットアプリです。
#プライベートAI#自己ホスト
※この説明はAIが公式READMEから自動生成したものです。内容は必ず公式ページでもご確認ください。
これは何?黒い画面(ターミナル)で動かすツール
できること
自分のMacやサーバー、環境でChatGPT風の画面を開き、Llama 2やCode Llamaに質問できます。会話データを端末外へ送らずに使う前提のローカルチャットです。
誰に効く?
データを外に出したくない人
用意するもの
環境、十分なメモリまたは
時間のめやす
15〜30分(AIに聞きながらコピペ)
使うとこうなる
- 1環境に合わせて導入→LlamaGPTが起動できる
- 2モデルを指定して実行→localhost:3000で画面が開く
- 3チャット欄に入力→ローカルモデルの返答が表示される
作れるもの・できることの例
ローカル質問応答、コード相談、オフライン前提のチャット環境
使えるようになるまでの手順をひらく
- 「」という文字だけの画面を使います(Windowsなら PowerShell)
- GitHubページの「Installation」に書かれたコマンドを順番に実行
- つまずいたら、いつも使っているAIチャットに「(ツール名)のインストールを手伝って」と聞くのがおすすめ
こんな人には向かないかも
- 黒い画面(ターミナル)にまだ抵抗がある人
- 高性能なグラフィック機能(GPU)のないPCの人
- 常時動かすサーバーやDockerを用意できない人
迷ったらこれ:いつも使っているAIチャット(ChatGPT・Claude・Geminiなど)にこのツールのGitHubリンクを貼って 「これを使いたい。私のPCでの始め方を一歩ずつ教えて」と頼むのが一番の近道です。
むずかしそう? 同じジャンルで、もっと始めやすいのはこちら
注意点
古いモデル中心なので、最新商用AIほど高性能とは限りません。
ひとことメモ
として公開されています。内容は公式ページでもご確認ください。
llama-gptについてよくある質問
- llama-gptは無料で使えますか?
- 無料で使えます。自分のパソコンの中で動くタイプなので、使った量に応じた料金もかかりません。
- llama-gptを使うのに、インストールや専門知識は必要ですか?
- コマンド入力(黒い画面)での操作が必要です。手順どおりに文字を打ち込む作業に慣れていないと、導入でつまずきやすいツールです。
- llama-gptはスマホでも使えますか?
- スマホには対応していません。パソコンが必要です。
- llama-gptは仕事(商用)で使えますか?
- ライセンスは MIT で、商用利用も認められています。ただし著作権表示を残すなどの条件が付くので、配布物に含める場合はライセンス本文を確認してください。
ローカルLLMのほかのツール
llama-gptが合わなかったときの、同じ用途の候補です。
Ollama
自分のPCでAIモデルを動かす
はじめやすい・ターミナル操作あり
Open WebUI
ローカルAIをChatGPT風の画面で使う
はじめやすい・ターミナル操作あり
llama.cpp
軽量にAIモデルを動かす土台
はじめやすい・ターミナル操作あり
vLLM
AIモデルを高速・大量に動かす土台
はじめやすい・ターミナル操作あり
LocalAI
自前で立てる無料のAIサーバー
はじめやすい・ターミナル操作あり
text-generation-webui
ローカルLLMの多機能操作画面
はじめやすい・ターミナル操作あり
