🇺🇸 OLMo 3 7B Think (SFT)
OLMo 3 7BをSFTで「thinking」向けにファインチューニングしたモデル:段階的な推論、16kのコンテキスト、Q4で約4.2 GBのVRAM。100%オープン、Apache 2.0ライセンス。
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
ランキング更新日:09/10/2026
RTX 5060(8 GB GDDR7、448 GB/s)はBlackwellシリーズのエントリーモデルです。8 GBではQ4_K_Mの7〜9Bモデルに限られますが、GDDR7とNeural Engineにより、Mistral 7Bで35〜45トークン/秒の速度が得られます。
RTX 5060 :ローカルAI向けに購入できる別の選択肢 — RTX 5060 Ti 16 GB :
予算に合わせてどの PC を選ぶべき?800~3,500 ユーロのおすすめをご紹介 →
アフィリエイトリンク — ローカルLLMナビは、あなたに追加費用をかけずに購入から手数料を受け取る場合がありますが、独立して決定したランキングには影響しません。Amazonパートナーとして、ローカルLLMナビは、所定の条件を満たす購入から利益を得ています。
OLMo 3 7BをSFTで「thinking」向けにファインチューニングしたモデル:段階的な推論、16kのコンテキスト、Q4で約4.2 GBのVRAM。100%オープン、Apache 2.0ライセンス。
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu):コードと推論に特化した Dense 7B モデル、128k コンテキスト、Q4 で VRAM 約 4.1 GB。軽量で、6~8 GB の GPU で動作、MIT ライセンス。
ollama pull glm-5.3
Dense 8B、Apache 2.0、FRを含む12言語、131k ctx、GQA 32Q/8KV。MMLU 73.84、HumanEval 85.37。2026年4月29日リリース。
# HuggingFace : ibm-granite/granite-4.1-8b
デンス型 7B、100%公開(重み + データ + コード)。研究向けに完全な透明性を確保。
ollama run olmo-3:7b
LFM2.5 7B (Liquid AI):Liquid Foundation Model の Dense 型、32k コンテキスト、Q4 で 4.1 GB の VRAM。CPU とエッジ向けに最適化。2026 年 5 月リリース。
ollama pull lfm2.5
Granite 4.2 8B (IBM):Apache 2.0 の Dense モデル、128k コンテキスト、Q4 で VRAM 約 4.6 GB。エンタープライズ向けにチャット、コード、多言語推論に対応。
ollama pull granite4.2
LFM2.5 DSpark (Liquid AI):7Bのデンス型Liquid Foundation Model。32kのコンテキスト、Q4でVRAM約4.1 GB。エッジ/CPU向けに最適化された汎用チャット。
# HuggingFace : LiquidAI/LFM2.5-DSpark
| 順位 | モデル | Params | VRAM Q4 | コンテキスト | ライセンス | RTX 5060搭載時 |
|---|---|---|---|---|---|---|
| #1 | OLMo 3 7B Think (SFT) | 7B | 4.2 GB | 16 000 | Apache 2.0 | 32 tok/s · Q8 |
| #2 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 tok/s · Q8 |
| #3 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #4 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #5 | LFM2.5 7B | 7B | 4.1 GB | 32 768 | LFM Open License v1.0 | 32 tok/s · Q8 |
| #6 | Granite 4.2 8B | 8B | 4.6 GB | 128 000 | Apache 2.0 | 32 tok/s · Q5_K_M |
| #7 | LFM2.5 DSpark | 7B | 4.1 GB | 32 768 | LFM Open License v1.0 | 32 tok/s · Q8 |
お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。
無料の要点まとめ
メモを受け取る VRAM → 最適なコーディング用モデル → Ollamaコマンド (1画面に収まり、コピー&ペーストできます)。そして、実際に動く環境を整えるために、ローカルコパイロットキットをご利用ください。
ローカルコパイロットキット — そのまま貼り付けて使える Ollama + Cline + Aider の設定、調整済みの Modelfiles、トラブルシューティング、無期限で利用できるオンラインスペース →スパムは送りません。配信停止は1クリックで可能です。お客様のデータは当サイトで保管し、転売することはありません。
お使いのグラフィックカード → ローカルで動かす最適なコーディングモデルと、その正確な Ollama コマンド:
| あなたの VRAM | 一般的な GPU / Mac | 推奨コーディングモデル | Ollama コマンド |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6.6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) または Gemma 4 12B (7.6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — コーディングエージェントに特化 | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — 「コパイロットに近い」 | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — 高速な MoE | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — この用途では今も定番です。⚠️ Qwen 3.8 : その推論はデフォルトで非常に高く設定されており、単純なリクエストに対して「考えすぎ」ます — を下げてください low (または初回起動時に無効化) してください。⚠️ ライセンスの罠: Codestral 22B = Mistral Non-Production License → 仕事でのコーディングには使用禁止。Qwen 3.5/3.8、Gemma 4、Devstral は Apache 2.0 ライセンスです。💡 メモリの問題でクラッシュしますか?コンテキスト用に VRAM を約 1.5 GB 空けておくか、量子化レベルを一段階下げてください。🔌 VS Code に接続するには: Cline (マルチファイルエージェント)、 Aider (CLI) または Tabby/Twinny (FIM 自動補完) — すべてローカルで Ollama に接続します。キット ローカルコパイロット — そのまま貼り付けて使える設定 + テスト済みのセットアップ — を利用できます: /copilote-local.
フィルター:Q4_K_M ≤ 7 GB(1 GBのコンテキストを確保)。ボーナスとして3〜9B(ピーク8 GB)および≤7B(スワップなし)。448 GB/s = 正しいスループットの入力。
考慮した基準:
スコアリングの仕組みはすべて公開しています。 私たちの方法論 でVRAMやtokens/secの計算の詳細をご確認ください。
RTX 5060 と RTX 4060 の比較?
どちらも8GB。5060のGDDR7は448GB/s、4060のGDDR6は272GB/sで、約65%の向上。Mistral 7B Q4:5060は約40トークン/秒、4060は約24トークン/秒。次をご覧ください: RTX 4060.
ローカルでLLMを使い始めるには、8 GBで十分ですか?
はい — Mistral 7B Q4(~4.5 GB)、Qwen 3 8B Q4(~5 GB)、Llama 3.2 3B Q4(~2 GB)すべて優れています。13B以上の場合には12 GB(RTX 5070)が必要です。詳細は、 VRAM 8 GB向けランキング.
RTX 5060と5060 Ti 16、どちらを選ぶべきですか?
5060=エントリークラス、8 GB(約340 €)。5060 Ti 16=ミドルクラス、16 GB(約480 €)。150 €追加すると24Bモデル(Mistral Small Q4)を使えるようになります。予算が許すなら5060 Ti 16がおすすめです。参照: RTX 5060 Ti 16GB.
5060向けの量子化設定は?
7BにはQ5_K_M(5.5 GB、最高品質)。8〜9BにはQ4_K_M(5〜5.5 GB)。13Bを無理に収めるならQ4_0(約7 GB)ですが、品質は低下します。最もバランスのよい7B Q5を選びましょう。