ランキング更新日：09/10/2026
RTX 4090（VRAM 24GB、Ada Lovelaceアーキテクチャ）は、2026年の一般消費者向けLLM推論の基準となるGPUです。このGPUを最大限に活用できるモデルをご紹介します。Q4/Q5量子化で24GBに収まる最高水準の品質と、快適な処理速度（30トークン/秒以上）を備えています。
RTX 4090 ：ローカルAI向けに購入できる別の選択肢 — GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) :
ミニPCは、それ自体で一式のコンピューターです。必要なメモリ容量とソフトウェアの互換性を確認してください。macOS/MLXやCUDAの代わりにはなりません。
なぜこの機種を選ぶのか？GMKtec EVO-X2 64 GB / 1 TB（Ryzen AI Max+ 395）の当サイトの詳細紹介 →
予算に合わせてどの PC を選ぶべき？800～3,500 ユーロのおすすめをご紹介 →
アフィリエイトリンク — ローカルLLMナビは、あなたに追加費用をかけずに購入から手数料を受け取る場合がありますが、独立して決定したランキングには影響しません。Amazonパートナーとして、ローカルLLMナビは、所定の条件を満たす購入から利益を得ています。
MoE 33B（アクティブパラメータ3B）。Apache 2.0ライセンスで、エージェント型コーディングに特化。SWE-Bench Verifiedで68.2%、128kのコンテキスト。メモリ36 GBのMacで動作。2026年4月28日リリース。
ollama run laguna-xs.2
Gemma 4のMoE版。総パラメータ26B、アクティブパラメータ4B。テキスト・画像・音声に対応する完全なマルチモーダルモデル。
ollama run gemma4:26b
Apache 2.0ライセンスで公開された初のdLLM：MoE 16B/1B + 拡散デコーダー6.2B。テキストとビジョンを統合。2026年4月22日公開。
# HuggingFace : inclusionAI/LLaDA2.0-Uni (Flash Attn 2 + CUDA 12.4 requis)
デンス型27Bマルチモーダルモデル、2026年4月22日公開。262kコンテキスト（YaRNで1M）。SWE-bench Verified 77.2%。
ollama run qwen3.6:27b
Qwen 3.8 27B：テキストと画像に対応するDenseマルチモーダルモデル、コンテキスト262k、Q4でVRAM約16 GB（Ollamaの重みは18 GB）。Apache 2.0、エージェント型コーディングと画像認識に対応。
ollama run qwen3.8:27b
GLM-4.7-Flash（MoE 31B、アクティブパラメータ約3B）：30Bクラスでコード性能とVRAM使用量のバランスが最も優れています。MITライセンス、128kコンテキスト、3090/4090で非常に高速。
ollama run glm-4.7-flash
Dense型の31Bマルチモーダルモデル（テキスト+画像+音声）。140以上の言語、コンテキスト長256k。Chatbot Arenaのオープンモデル部門で3位。
ollama run gemma4:31b
| 順位 | モデル | Params | VRAM Q4 | コンテキスト | ライセンス | RTX 4090 上で |
|---|---|---|---|---|---|---|
| #1 | Laguna XS.2 | 33B | 19 GB | 131 072 | Apache 2.0 | 100 tok/s · Q5_K_M |
| #2 | Gemma 4 26B-A4B MoE | 26B | 16 GB | 128 000 | Apache 2.0 | 60トークン/秒 · Q5_K_M |
| #3 | LLaDA 2.0 Uni 16B | 16B | 18 GB | 8 192 | Apache 2.0 | 130 tok/s · Q5_K_M |
| #4 | Qwen 3.6 27B | 27B | 16 GB | 262 144 | Apache 2.0 | 32 tok/s · Q5_K_M |
| #5 | Qwen 3.8 27B | 27B | 16 GB | 262 144 | Apache 2.0 | 22トークン/秒 · Q5_K_M |
| #6 | GLM 4.7 Flash | 31B | 19 GB | 128 000 | MIT | 100 tok/s · Q5_K_M |
| #7 | Gemma 4 31B | 31B | 18 GB | 256 000 | Apache 2.0 | 30 tok/s · Q5_K_M |
お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。
無料の要点まとめ
メモを受け取る VRAM → 最適なコーディング用モデル → Ollamaコマンド （1画面に収まり、コピー＆ペーストできます）。そして、実際に動く環境を整えるために、ローカルコパイロットキットをご利用ください。
ローカルコパイロットキット — そのまま貼り付けて使える Ollama + Cline + Aider の設定、調整済みの Modelfiles、トラブルシューティング、無期限で利用できるオンラインスペース →スパムは送りません。配信停止は1クリックで可能です。お客様のデータは当サイトで保管し、転売することはありません。
お使いのグラフィックカード → ローカルで動かす最適なコーディングモデルと、その正確な Ollama コマンド：
| あなたの VRAM | 一般的な GPU / Mac | 推奨コーディングモデル | Ollama コマンド |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6.6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) または Gemma 4 12B (7.6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — コーディングエージェントに特化 | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — 「コパイロットに近い」 | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — 高速な MoE | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — この用途では今も定番です。⚠️ Qwen 3.8 ： その推論はデフォルトで非常に高く設定されており、単純なリクエストに対して「考えすぎ」ます — を下げてください low (または初回起動時に無効化) してください。⚠️ ライセンスの罠： Codestral 22B = Mistral Non-Production License → 仕事でのコーディングには使用禁止。Qwen 3.5/3.8、Gemma 4、Devstral は Apache 2.0 ライセンスです。💡 メモリの問題でクラッシュしますか？コンテキスト用に VRAM を約 1.5 GB 空けておくか、量子化レベルを一段階下げてください。🔌 VS Code に接続するには： Cline (マルチファイルエージェント)、 Aider (CLI) または Tabby/Twinny (FIM 自動補完) — すべてローカルで Ollama に接続します。キット ローカルコパイロット — そのまま貼り付けて使える設定 + テスト済みのセットアップ — を利用できます： /copilote-local.
Q4_K_Mで24 GB以内に収まり、VRAMを少なくとも40％使用するモデルを選びます（それ未満なら7Bモデルで十分です）。VRAM使用率が60〜95％のモデルには加点します。この範囲が品質と生成速度の最適なバランスです。
考慮した基準：
スコアリングの仕組みはすべて公開しています。 私たちの方法論 でVRAMやtokens/secの計算の詳細をご確認ください。
70B を RTX 4090 で実行することは可能ですか？
Q4_K_Mでは、70Bモデルに約40 GBのVRAMが必要なため、4090を1枚使うだけでは足りません。Q2/Q3に下げる（品質が低下する）、CPU側のRAMにオフロードする（非常に遅い）、または2枚目のGPUを追加する必要があります。本格的に70Bモデルを動かすなら、RTX 4090を2枚、または5090＋DDR5を目指してください。
RTX 4090でどの量子化を選択すべきですか？
Q5_K_M は最もバランスのよい選択です（ベンチマークによると、FP16に比べた性能低下は1%未満）。Q8はQ5より明らかに優れていますが、VRAM使用量は50%多くなります。Q4を選ぶのは、Q5ではメモリに収まらない大型モデルを使いたい場合だけです。
4090 で使うなら、Mistral Small 3.1 24B と Qwen 2.5 32B のどちら？
比較を確認。Mistral Small 3.1はより高速（24B < 32B）で、フランス語での性能も優れています。Qwen 2.5 32Bは、一般的なタスクやコーディングでより高い性能を発揮します。
RTX 4090ではどの推論エンジンを選ぶべきですか？
対話型チャットには： Ollama (シンプル) または llama.cpp （制御の自由度が最大）。サーバーのスループットを重視するなら： vLLM または ExLlamaV2。vLLMのバッチ処理では、性能が2〜3倍に向上することがあります。