開発者 — 「ローカルCopilot、100%オフライン、クラウド遅延ゼロ。」

対象者 どんな人向け？

30分を無駄にしていただくより、早めにお伝えしたいと考えています。

1. 1
   ステップ 01·12 分·上級

   GPUアクセラレーション付き llama.cpp のコンパイル

   ソースからビルドすることで、トークン/秒の最大値を得られます。NVIDIA では CUDA、Apple シリコンでは Metal、AMD では ROCm を使用します。Ollama と比べて15％〜30％速いです。

   llama-server バイナリが用意されており、OpenAI互換APIを提供可能です。

   ガイドを読む →
   Macをお使いですか？ macOS版を見る →
2. 2
   ステップ 02·6 分·中級

   Qwen2.5 Coder 32B (Q4) をダウンロード

   コード向けオープンウェイトモデルとしてそのカテゴリで最も優れたモデルです。Q4_K_M は約 19 GB の VRAM を消費し、FP16 と比べて 95% の品質を維持します。Hugging Face からダウンロード可能です。

   モデルは localhost:8080 で、Chat Completions 形式で提供されます。

   ガイドを読む →
3. 3
   ステップ 03·8 分·中級

   VSCodeにContinue.devを接続する

   marketplaceからContinue拡張機能をインストールし、~/.continue/config.jsonを編集してローカルエンドポイントに設定し、FIMモデルを自動補完用に構成してください。

   Tabキーで提案を受け入れ、Cmd+Lで選択範囲についてのチャットを開きます。

   ガイドを読む →
4. +
   ボーナスステップ·4分·上級

   おまけ — コマンドラインで使うAider

   より広範なタスク（モジュールのリファクタリング、テストの生成）に対して、Aiderはターミナルから自然言語でファイルを編集し、Gitによる自動コミットを実行できます。

   同じバックエンドに接続し、Continueを補完するエージェント型CLIです。

   ガイドを読む →

おすすめモデル

この学習コース向けにテストした3つの選択肢を、最も軽量なものから最も高性能なものまで紹介します。クリックすると詳細ページ（VRAM、コンテキスト、ベンチマーク）が開きます。

よくある質問

メールやMastodonで実際に寄せられる質問です。ご自身の質問が掲載されていない場合は、チケットを作成してください。