好奇心旺盛な人 — 「とりあえず試してみたいだけ。面倒なことはしたくない。」
ローカルLLMについて耳にして、自分のマシンでどのように動くのか試してみたいと考えている方へ。コードを書く必要も、複雑なコマンドを入力する必要もありません。15分で、初めてのモデルとオフラインで無料でチャットできます。
このガイドの終了時、Ollamaはバックグラウンドで静かに動作し、Mistral 7Bがローカルにダウンロードされ、ブラウザからアクセスできるクリーンなWebインターフェースで対話できるようになります。すべて15分未満で完了し、理解すべきコードは一行もありません。
対象者 どんな人向け？
30分を無駄にしていただくより、早めにお伝えしたいと考えています。
- ✓LLMが何なのかはまだほとんど知りませんが、この話題に興味があります。
- ✓米国のサービスに質問を渡さずに試してみたい。
- ✓「聞いたことがある」から「自分の環境で動いている」までの最短ルートを探しています。
- ✓使用開始から5年未満で、RAM が8GB以上ある PC または Mac をお持ちです。
- ·自分のデータでモデルをファインチューニングしたい場合は、開発者向けコースをご覧ください。
- ·自分のドキュメントにRAGを活用するプロ向け環境を整えたい場合は、機密性を重視したプロ向けコースをご覧ください。
- ·お使いのマシンが2015年製でRAMが4GBなら、動きはしますが、かなり遅くなります。
3ステップで進む学習パス
各ステップには、作業と並行して読める詳しいガイドへのリンクがあります。順序は最適化されています。初回はステップを飛ばさないでください。
- 1ステップ 01·3分·初心者
Ollama のインストール
ollama.comから公式インストーラーをダウンロードして、ダブルクリックすれば完了です。時計の近くにアイコンが表示され、AIエンジンがバックグラウンドで動作します。
Ollamaがインストールされ、localhost:11434でリッスンしています。ガイドを読む →Macをお使いですか？ macOS版を見る → - 2ステップ 02·4分·初心者
Mistral 7Bをダウンロード
ターミナルで実行するコマンドは、ollama run mistralの1つだけです。ダウンロード容量は4 GBです（接続環境によって所要時間は変わります）。フランスのMistral AIによるモデルで、入門に最適です。
Mistral 7B のダウンロードとメモリへの読み込みが完了し、対話の準備が整いました。ガイドを読む → - 3ステップ 03·8 分·初心者
ChatGPT のようなインターフェース
ターミナルはそっけないものです。Open WebUI は、履歴、Markdown、コピー＆ペースト機能を備えた洗練されたインターフェースを提供します。Docker コマンド一つで起動できます。
http://localhost:3000で、使い慣れたインターフェースを使ってチャットします。ガイドを読む →
おすすめモデル
この学習コース向けにテストした3つの選択肢を、最も軽量なものから最も高性能なものまで紹介します。クリックすると詳細ページ（VRAM、コンテキスト、ベンチマーク）が開きます。
まずはこれから。フランス語にネイティブ対応し、サイズも手頃です。
詳細を確認 →サイズに対する性能が非常に高く、コーディングと推論にも優れています。
Meta、マルチ言語対応、より長く構造化された回答。
よくある質問
メールやMastodonで実際に寄せられる質問です。ご自身の質問が掲載されていない場合は、チケットを作成してください。
機密性を重視するプロ — 「私の資料は、自分のパソコンの外には出ません。」
法律専門家、医師、人事担当者、コンサルタント、公認会計士、公証人——扱う文書には職業上の守秘義務やNDAが適用されます。ローカルLLMとRAGを組み合わせることで、文書について質問したり、要約したり、…
お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。
- 永久に利用できるオンラインスペース
- PDF + ファイル
- 30日間返金対応
ご質問、誤字・脱字、バグはありますか？
この学習コースはモデルがリリースされるたびに進化します。皆さんからのフィードバックが、その材料となります。