LLMをローカルで使うにはどのGPUが適していますか？RTX 4070から5090、Mac (2026)
ローカルLLMにおいては、1番の基準はVRAM（ゲーム性能ではなく）です。次にトークン/秒、その後に消費電力です。中古のRTX 3090（24GB VRAM）は、古いアーキテクチャをもつものの、その大きなメモリ容量により、新規のRTX 4070よりもローカルAI処理において優れる場合があります。
GPUは、ローカルAIの使い勝手を最も大きく左右するパーツです。ただし、ゲーマーと同じ基準でGPUを選ぶわけではありません。LLMで重要なのは、まずVRAM、次にトークン/秒で表す生成速度、そして消費電力です。このガイドでは、2026年の製品群（NVIDIA、AMD、Apple Silicon、Intel Arc）を整理し、予算別の具体的な構成例を紹介するとともに、中古のRTX 3090が新品の4070を上回る場合がある理由を説明します。
マシンを選んでいるところですか？ 予算別のおすすめ →
このガイドで紹介する購入候補の別の選択肢： Mac mini M5 Pro (24 GB / 512 GB).
なぜこの選択か？ 完全な解説はこちら： Mac mini M5 Pro (24 GB / 512 GB) →
800 €から3,500 €まで、予算別にすべてのオプションを比較 →
低予算向け： RTX 5060 ・大規模モデル： RTX 5090 · Mac Studio.
外出先では： ローカル AI 向けのノートパソコンはどれ？ →
アフィリエイトリンク — お客様の追加負担なしで、当サイトが紹介料を受け取る場合があります。Amazonのパートナーとして、QuelLLMは所定の条件を満たす購入から収益を得ます。
#VRAMが何よりも重要
LLMはフルスピードで動作するにはVRAM内に収まらなければなりません。VRAMを超えると、システムRAMに依存し、速度が10倍ほど低下します。したがって、動作可能なモデルのサイズはVRAMによって決まり、GPUの純粋な性能とは無関係です。
- 8 GB
- Qwen 3.5 9B（6.6GB）。快適に使えますが、長いコンテキストの利用はメモリ容量に制限されます。エントリークラスです。
- 12 GB
- Qwen 3.5 9B はQ8（11GB）で快適で、24BモデルはQ4で動作可能です。品質と価格のバランスが最適です。
- 16 GB
- 24B（Devstral, Mistral Small）が快適で、gpt-oss 20B または Q4 で 27B のモデルも利用可能です。非常に良いバランスです
- 24 GB
- 余裕を持って収まるQwen 3.8 27B（18 GB）、コード向けの30B-A3B MoEモデル、Q4の35Bモデル。
- 48 GB +
- Q4 量子化の70Bモデルを快適に動かせ、LoRA ファインチューニングも可能で、複数のモデルを並列実行できます。
#ニーズを特定する
- たまに使うチャット、簡単なタスク
- Qwen 3.5 9Bには約7 GBのVRAMで十分です。RTX 4060 Ti 16 GB、RTX 3060 12 GB、Arc A770 16 GB。
- 開発（自動補完＋チャット）
- FIM自動補完用のQwen2.5-Coder 7Bベースモデルと、チャット用のDevstral 24Bを併用。16〜20 GBを推奨。
- 業務用RAG、長文ドキュメント
- 32k以上のコンテキストを扱い、追加で4〜6GBのVRAMを消費します。最低16GBを確保してください。
- ファインチューニング、実験
- 最低24GB（RTX 3090/4090）が必要です。7Bモデルの本格的なフルファインチューニングを行うには、48GB（A6000、RTX 6000 Ada）を目安にしてください。
- 10人のチームをサポート
- RTX 4090 または A6000 を1枚で使用するか、70B モデルには RTX 4090 を2枚、テンソル並列で使用する。
#NVIDIA — 2026年のオプション
- RTX 3060 12GB（約250€）
- 低予算向けの選択肢。CUDA対応、VRAM 12 GBで、Q4の7B・13Bモデルでまずまずの性能を発揮します。おすすめのエントリーモデルです。
- RTX 4060 Ti 16 GB (~450 €)
- LLMに最適：16 GBのVRAM、低消費電力（160 W）。純粋な性能では3090に劣りますが、消費電力は少なくなります。
- RTX 4070 Super 12 GB (~600 €)
- 計算性能は優秀ですが、メモリ容量が12GBであることが制約になります。ゲームもする方には良い選択です。
- RTX 3090 24GB（約700€、中古）
- ⭐ 市場で最も優れたユーロ当たりのVRAM容量。登場から2年が経っていますが、24 GBのVRAMは驚くほどの力を発揮します。消費電力は高め（350 W）です。
- RTX 4090 24GB（中古、価格は変動）
- 2023～2025年の一般消費者向けGPUでは最高の製品。高性能＋24 GB。2026年は在庫が少ないため、RTX 5090を優先。
- RTX 5080 16 GB / 5090 32 GB（≈1 500 € ～ 1 850 € / ≈5 700 € 2026年9月末）
- 2025年世代。5090はVRAM 32 GBで、LLMユーザーにとって夢のような製品です。
- RTX A6000 48GB（プロ向け、約4500€）
- 48 GBの VRAM で70Bモデルを Q6で実行、または13Bモデルをファインチューニングできます。投資を回収できるプロ向けです。
#AMD — ROCmによる遅れの巻き返し
- RX 7600 XT 16 GB（約350 €）
- AMDのエントリーレベル製品。3060の価格で16GBのVRAMを提供。ROCmが公式サポートされています。
- RX 7800 XT 16 GB（約550€）
- 性能は4070相当、ROCmは安定しており、価格に対する性能に優れています。
- RX 7900 XTX 24 GB (~900 €)
- 中古の3090より大幅に安く24 GBを確保できます。ROCmの複雑さを受け入れられる人向けです。
- RX 9070 XT 16 GB（2026年9月末時点で約1 070 €）
- 新世代のRDNA 4（2025年）。ROCmでの対応状況は、まだ評価が必要です。
#Apple シリコン — 特例
Mac M シリーズには専用 GPU がありませんが、ユニファイドメモリを備えており、GPU は RAM 全体にアクセスできます。64 GB の Mac なら LLM に 48 GB を割り当てられ、70B モデルを動かすのに十分です。
- Mac mini M6 16 GB (1 049 €)
- 実用に耐える最小限の構成です（Mac mini M4 は新品では販売されていません）。7B モデルは快適に動作します。消費電力は非常に低く、推論時は 20 W です。
- Mac mini M5 Pro 24 GB（1,999 €、Apple の構成オプションでは 48〜64 GB）
- LLM 用途では非常に優れたコストパフォーマンスです（M4 Pro の後継）。48 GB 構成では約 36 GB が GPU に割り当てられ、32B の Q6 モデルが余裕を持って収まります。
- MacBook Pro M4 Max 64 GB（約4000 €）
- ノートPCで70BのLLMをQ4で実行。RTX 4090搭載デスクトップ相当の使い勝手に、持ち運びやすさをプラス。
- Mac Studio M5 Ultra 96 GB（6,599 €から、2026年9月末時点のApple価格）
- 最高クラスです。96 GBのうち約72 GBをLLMに利用でき、メモリ容量の多いバージョンではさらに多く利用できます。現時点で最大級のオープンウェイトモデルをQ8で動かすことも、複数のQwen 3.8 27Bを並列で実行することもできます。
#Intel Arc — 力技で使う伏兵
- Arc A770 16 GB（約300€）
- 300ユーロで16GBのVRAM。素の性能は同等のNVIDIA/AMD製品より低いものの、価格あたりのVRAM容量では他の追随を許しません。
- Arc B580 12 GB（2026年9月末時点で約430 €）
- 新世代のBattlemage。性能が大幅に向上しており、期待が持てます。
#実際の予算
- 300 € — まず始めるための予算
- 中古のRTX 3060 12 GB、またはArc A770 16 GB。7B〜13Bのモデルを問題なく動かせます。
- 700 € — 最適なバランス
- 中古のRTX 3090 24GB。ユーロ当たりのVRAM容量では最高のコストパフォーマンスです。どの32Bモデルでも実行でき、70BモデルもQ4で実行できます。
- 1500€ — プロ向けの快適な環境
- RTX 5070 Ti 16 GB 新品（約 1,250 〜 1,400 €）を、既に 64 GB の RAM を備えた PC に追加する。
- 3000€ — LLMワークステーション
- RTX 5080 16 GB を備えた完全なPC（カード価格は約1,500〜1,850€）またはMac Studio M5 Max 36 GB（2,999€）。70Bモデルを読み込むには、Ryzen AI Max+ 395 128 GBのミニPC（約3,300€、モデルによっては最大4,000€まで）が必要です。日々このような開発を行う開発者のために適しています。
- 6,600 €以上 — 最上位クラス
- Mac Studio M5 Ultra（96 GB以上、6,599 €から）または PC 2× RTX 5090（2枚のカードで約11,400 €、2026年9月末）。小規模チーム向けのLLMサーバー。
#新品か中古か？
- 新品
- 保証、最新世代、長期的なドライバーサポート。3〜5年間のビジネス投資の償却期間を考慮した選択です。
- 中古（RTX 3090、4090）
- 費用を30～40％節約できます。LLM用途で使われていたカードは、マイニング用のカードほど消耗していません（大半は負荷がかかった状態での稼働時間が短いためです）。
- 中古品の確認事項
- 推論処理で24時間のバーンインテストを行うこと、温度を監視すること（80°Cを超えないこと）、サーマルパッドが交換されていないこと、できれば購入時の請求書があること。
- 業務用としての購入
- 新品の RTX A6000 または L40。3年保証、業務用の価格帯で、性能は一般消費者向けと同等です。減価償却を行う方に向いています。
価格は変動が激しいため、当サイトでは毎週月曜日と木曜日に、ローカルAI向けグラフィックカードの最低価格とVRAM 1 GBあたりの価格を確認しています。
ご意見、誤りのご指摘、補足はありますか？ぜひお知らせください。皆さんにとってより良いガイドにするために役立ちます。