Radeon RX 7700 XT（12 GB）で使うLLMはどれか ?

#2026年にRX 7700 XTでできること

RX 7700 XTは中規模のローカルLLMに適しています。12 GBのメモリには、Llama 3.1 8B、Gemma 4 12B、Phi-4 14BがQ4で収まり、コンテキスト用の余裕もあります。RX 6700 XTより12.5%高い432 GB/sの帯域幅が、生成速度の上限を決めます。スコアボードの基準となる7Bモデルでは約113トークン/秒で、RX 7800 XTの163トークン/秒と比較できます。6700 XTに対する明確な利点は、Windowsも含め、ROCmとOllamaの公式対応リストに掲載されていることです。弱点はメモリ容量で、200億〜240億パラメータのモデルには対応できません。この規模では、7800 XTの16 GBが貴重になります。

アーキテクチャ

RDNA 3、チップレット構成のNavi 32チップ（1 GCDと3 MCD）、2023年9月6日発売。

計算

ストリームプロセッサ3,456基、演算ユニット54基。

メモリ

12 GB GDDR6、バス192ビット、432 GB/s。

消費電力

カードの消費電力は245Wです。

価格

ここでは記載されていません：週ごとの最低価格は/prix-gpu-iaをご確認ください。

#ROCm、Ollama および Windows：公式サポート

これが前世代と異なる点です。AMDの互換性表には、RX 7700 XTがRX 7800 XTと同じくRDNA 3、ターゲットgfx1101として記載されています。Ollamaのドキュメントでも、LinuxとWindowsで対応するカードとして挙げられています。ただし、OS選びには注意点があります。AMDによると、Radeon RX 7000と9000シリーズがサポートされるのはUbuntu 24.04.4、Ubuntu 22.04.5、RHEL 10.1、RHEL 9.7のみです。他のディストリビューションでも動作する可能性はありますが、保証はありません。Vulkanは代替手段として使えます。バックエンドがインストールされていれば、OllamaがVulkanをデフォルトで有効にします。

#12GBのVRAMに収まるもの

12 GBのグラフィックスカードでは、そのカードで画面出力を行わない場合、モデルとKVキャッシュに使える容量は約11 GBと考えてください。記載されているモデルの重みの容量はQuelLLMのカタログに基づいています。KVキャッシュはそれに加算され、会話が長くなるほど増えます。

14Bを超えるために、GPUカードを変更せずに活用できる手段は二つあります。KVキャッシュを量子化して1〜2GBを確保するか、トークンごとに一部のパラメータのみがアクティブになるMoE（Mixture of Experts）モデルを選択することです。メモリ使用量はモデルの全サイズに依存するため、20BのMoEモデルが12 GBに収まりやすくなるわけではありませんが、収まれば生成速度は向上します。

• 12 GBのVRAMで使えるLLMは？カードの種類を問わず紹介
• KV キャッシュを量子化して VRAM を空ける
• モデルとコンテキストに必要なVRAMを計算するツール

#スループット：分かっていることと推定していること

根拠の状況を正確に説明します。llama.cppリポジトリには、同じモデル（Llama 2 7BのQ4_0）でAMDのカードを一覧にした公開ディスカッションが2つあり、一方はVulkan、もう一方はROCmを使用しています。執筆時点では、どちらにもRX 7700 XTの記載はありません。私たち自身では何も測定していません。できるのは、測定済みの2枚のカードの間に位置づけることです。RX 6700 XTは生成速度が83.88トークン/秒（メモリ帯域幅384 GB/s）、RX 7800 XTは118.27トークン/秒（624 GB/s）で、どちらもVulkanでの測定値です。

帯域幅から計算すると、上限が求められます。432 GB/sをモデルの重みの容量3.82 GBで割ると、基準となる7Bモデルでは約113トークン/秒になります。同じ議論で取り上げられたAMDカードは、この上限の59～83％に達しています（6700 XTは83％、7800 XTは72％）。これを踏まえると、7700 XTで65～95トークン/秒という値はあり得そうです。ただし、これは検討用の仮説であり、測定結果ではありません。llama-benchで確認する必要があります。

会話用途では、1秒あたり10トークンを超える速度であれば快適に読み取れます。したがって、これらの推定値は、大きな誤差の幅を考慮しても、実用上の閾値を大きく上回っています。

#近いクラスの製品との比較：6700 XT、7800 XT、RTX 4070

選択は多くの場合、近接する3つのカードの間で行われます。Vulkan環境で公開された測定値は、議論の対象となっているAda世代の12 GBカードの一つであるRTX 4070の位置づけに役立ちます。生成速度は1秒あたり92.29トークン、プロンプト読み込み速度は3,179トークンです。12 GBという容量は7700 XTと同様であり、両カードは同じモデルに制限されます。違いはソフトウェアエコシステム、プロンプト読み込み、エネルギー効率、価格で決まります。RX 7700 XTの速度は測定待ちですが、他の3つは公開されています。

この表の読み方: 7700 XT から 7800 XT への移行は、単に速度が向上するだけでなく、VRAM が 4 GB 増え、20B から 24B のモデルにアクセス可能になります。実際に実行できるものを根本的に変えるのは、この基準だけです。用途が 8B や 12B の場合、7700 XT は制約になりません。一方、24B のコードモデルをターゲットにしている場合、制約になります。

• Radeon RX 7800 XT、同じチップで16GB
• Radeon RX 6700 XT、12GBの前世代モデル
• RTX 4070：12GBのNVIDIA製の代替候補

#Linuxで使い始める

1. 01
   システムを確認する

   あなたのディストリビューションがAMDがこのカードに対応しているものとしてリストしているUbuntu 24.04.4、Ubuntu 22.04.5、RHEL 10.1、またはRHEL 9.7のいずれかであることを確認してください。
2. 02
   ROCm ドライバーのインストール

   OllamaはLinuxでROCm v7ドライバーを要求します。AMDのドキュメントに記載されているamdgpu-installツールを使ってインストールしてください。
3. 03
   Ollamaをインストールした後、モデルをインストール

   Q4_K_Mで量子化されたGemma 4 12B、または8Bモデルをダウンロードし、ollama runで実行してください。
4. 04
   GPUが処理に使われていることを確認する

   ollama ps を実行してください。プロセッサの列に GPU 上での実行が表示される必要があります。カードが検出されない場合は、ollama ユーザーを render グループに追加してください。
5. 05
   測定および比較

   公開ディスカッションのGGUFを使用してllama-benchを実行し、自らのカードの性能を他の測定結果と比較し、自らの結果を公開してください。

ollama ps
rocminfo | grep -i gfx
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

Windowsでは、Ollamaのドキュメントに、Radeon RX 7000向けのROCm v7またはHIP7スタックが記載されています。インストールするのは、最新のRadeonドライバーと、その後にOllamaだけです。OllamaとAMD GPUに関するガイドでは、複数のGPUを搭載したシステムで使用するカードを選ぶために役立つ環境変数を詳しく説明しています。

• Ollama および AMD GPU：Radeon RX 6000 から 9000 までを設定

#12GBが不足するとき

境界は明確です。モデルの重みが11 GBを超えると、VRAMに全体を収められなくなります。するとOllamaとllama.cppは一部のレイヤーをCPU側にオフロードします。システムメモリはGDDR6よりはるかに遅いため、速度が大幅に低下します。よくあるのは、24Bのコード用モデル、14Bモデルでの長いコンテキスト、またはRAG用に2つ目のモデルを同時に読み込む場合の3つです。いずれも解決に必要なのは計算性能ではなく、VRAM容量です。

中古で購入する前に、次の3点を具体的に確認してください。カードの消費電力は245 Wなので、それに適した電源と、正しく接続された2つのPCIe電源コネクタが必要です。LLMの用途では、カードの細かなモデルの違いはあまり重要ではありません。メモリ容量はどのメーカーでも12 GBで共通しており、異なるのは冷却性能だけです。これは長時間の生成セッションでは重要になります。最後に、購入を確定する前に、実際に9〜10 GBのモデルを使ってカードをテストしてください。12 GBのメモリの大部分を使用し、LLM特有の重みの連続的な再読み取りに負荷をかけられるのは、このテストだけです。ゲームを動かすテストとはまったく異なります。

#2026年の結論

すでにご所有の場合

そのまま使い続けてください。14Bまでのモデルには公式に対応しており、回避策は必要ありません。

中古で購入する場合

/prix-gpu-ia で、その価格を RX 7800 XT の価格と比較してください。価格差が小さければ、7800 XT の追加 4 GB のメモリには、その差額を払う価値があります。

24Bを狙う場合

最初から16GB以上のカードを選んでください。制約になるのは処理性能ではなく、メモリ容量です。

• ローカルAI向けグラフィックカードの価格（週2回調査）
• Ollamaドキュメント：対応するAMD GPU
• AMDのROCm互換性表
• llama.cpp リポジトリの Vulkan スコアボード

#よくある質問