Radeon RX 7900 GRE（16 GB）で使うLLMはどれ？ ?

#2026年にRX 7900 GREでできること

RX 7900 GRE は Q4 から 15GB 未満のデータをすべて読み込みます。Gemma 4 12B は Q8 まで対応し、gpt-oss 20B および Devstral Small 2 24B は短いコンテキストで動作します。生成速度は、576 GB/s の上限に制限され、Vulkan を使用したスコアボードの7Bモデルで約116トークン/秒とされています。これは重要な点です。プロセスフローCPU数は5,120で、7800 XTの3,840に比べて多いですが、読み込み速度は速くなるものの、生成速度は向上しません。メモリ容量や帯域幅は隣接モデルと同等であり、AMDはROCmで正式にこのチップをリストアップしており、Ollama はLinuxおよびWindowsでサポートされています。

アーキテクチャ

RDNA 3、Navi 31（RX 7900 XTXと同じチップで、ここでは機能を削減した構成）、80基のコンピュートユニットと5,120基のストリームプロセッサ。

メモリ

16GB GDDR6で256ビットバスを備え、576GB/sの帯域を提供します。

消費電力

カードの消費電力は260Wです。

入手可能性

当初は中国限定で販売され（2023年7月27日）、2024年2月27日に世界市場で発売されました。発売時の価格は549ドルです。

現在の価格

/prix-gpu-ia をご確認ください：価格は毎週変更されます。

#7900 GRE と 7800 XT の比較：メモリが決定的です

どちらのカードも16 GBのメモリを搭載しています。7800 XTの帯域幅は624 GB/s、7900 GREは576 GB/sで、8％低くなっています。トークンを生成するたびにすべての重みを読み直す生成処理では、帯域幅が性能を左右します。そのため、llama.cppのVulkanに関する議論では、7800 XTがGREをわずかに上回り、Flash Attentionを有効にすると、その差はさらに明確になります。一方、計算性能がものをいうVulkanでのプロンプト読み込みでは、GREが再び優位に立ち、16％高速です。ROCmでは、公開されている2組の測定結果のいずれでも、両方の測定項目で7800 XTが上回っています。

これらの測定データは異なる投稿者によるもので、llama.cppのコミットも異なります。そのため、差はおおまかな目安であり、実験室で条件をそろえた比較ではありません。それでも、GREの生成速度が7800 XTを上回らないという点では一致しています。両方が同じ価格で見つかるなら、会話用途には7800 XTを、長いプロンプトを使う用途にはGREを選んでください。

• Radeon RX 7800 XT：同じVRAMを備えつつ、より高い帯域幅を実現

#16 GBのVRAMに収まるもの

グラフィックカードが画面出力に使われていない場合、モデルとKVキャッシュに約15GBを見込んでください。Q4でのモデル容量はQuelLLMのカタログに基づいており、そこにコンテキスト分が加わります。

したがって、16 GBに収まるかどうかの境界は、収まる24Bモデルと収まらない31Bモデルの間にあります。24 GBのカードに移行せずにこの境界を越えるには、20 GBのRX 7900 XTが中間的な余裕を提供します。専用ガイドでは、その利点を詳しく説明しています。メーカーを問わず16 GBのカード全体についてモデルを比較するには、VRAM容量別のページをご覧ください。

• Radeon RX 7900 XT：20GBで24Bを越える
• カードの種類を問わず、16GBのVRAMで使えるLLMは？

#実測スループットと帯域幅の上限

このページの数値は、いずれも当サイトで測定したものではありません。llama.cppリポジトリの公開ディスカッションに掲載された値で、どのディスカッションでもQ4_0のLlama 2 7B（3.56 GiB）とllama-benchを使用しています。プロンプトの読み込み（pp512）は512トークンを取り込む速度を測定し、生成（tg128）は書き出す速度を測定します。RX 7900 GREをVulkanで動かした場合、ディスカッションでは生成速度がFlash Attentionなしで116.11トークン/秒、ありで110.50トークン/秒と報告されています。ROCmでは96.07トークン/秒です。

生成速度の理論上限は、メモリ帯域幅をモデルの重みサイズで割って求められます。ここでは 576 GB/s を 3.82 GB で割るため、約 151 トークン/秒です。このカードは、Flash Attention を使わない Vulkan 環境で、その 77％に達します。この効率をより大きなモデルに当てはめると、おおよその目安が得られます。ただし、これは実測値ではなく、ドライバーや llama.cpp のバージョンが変われば数値も変わります。

#プロンプトの読み取りが実際にはどう影響するか

プロンプトの読み込みは、待機時間（秒）に換算しない限り抽象的に感じられます。計算は単純で、プロンプトのトークン数を pp512 の速度で割るだけです。これは 512 トークンで測定した速度が、より長いプロンプトでも維持されると仮定していますが、コンテキストが大きくなると読み込み速度が低下するため、これはおおむね成り立つ仮定にすぎません。したがって、以下の時間は、約 4,000 トークン（約 10 ページ）の文書に対する目安です。

これらのカード間の差は、短いドキュメントに対しては秒単位の分数で測られます。コード全体やPDFの大量データ、またはエージェントの各リクエストが大きなコンテキストを再読み込みする場合に、数十万トークンに達すると、その感度が高まります。低量使用の場合には、VRAMのGBあたりのコストに基づいてカードを選択してください。その基準ではなく、コストに基づいて選択してください。

#RX 9070との比較：同じVRAM容量、RDNA 4

RX 9070は、現行ラインナップにあるもう一つの16 GBカードです。メモリ帯域幅は576 GB/sに対して640 GB/s、TDPは260 Wに対して220 Wで、ストリームプロセッサは3,584基です。Vulkanでは、生成速度が119.71トークン/秒、プロンプト処理速度が3,164トークン/秒です。プロンプト処理は35％速く、生成速度はほぼ同じです。実用上の違いは別のところにあります。この2世代ではROCm、Ollama、Windowsの動作が異なり、RX 9070のページで詳しく説明しています。具体例として、OllamaのドキュメントではRX 9070がLinuxのROCm対応カード一覧に掲載されていますが、WindowsのROCm対応カード一覧には掲載されておらず、WindowsではVulkanを使います。一方、RX 7900 GREは両OSのROCm対応カード一覧に掲載されています。WindowsでROCmにこだわるならGREが有利ですが、Vulkanでもよければ、この違いはなくなります。

• Radeon RX 9070：RDNA 4 および 16 GB

#セットアップ

1. 01
   システムの選択

   AMDはRadeon RX 7000シリーズをUbuntu 24.04.4、Ubuntu 22.04.5、RHEL 10.1およびRHEL 9.7でのみサポートしています。WindowsではOllamaはROCm v7またはHIP7を用います。
2. 02
   Ollama のインストール

   LinuxではROCm v7ドライバーが必要です。Vulkanはデフォルトで有効になっており、代替手段として使え、このカードでも良好な結果が得られます。
3. 03
   メモリに収まるモデルを読み込む

   短いコンテキストで、まず12Bまたは20Bモデルを試し、その後24Bモデルを試してください。ollama psで、モデル全体がGPUにロードされていることを確認してください。
4. 04
   2つのバックエンドを比較する

   Vulkanで、次にROCmで、Flash Attentionを有効にした場合と無効にした場合の両方でllama-benchを実行してください。このカードでは、公開されている測定結果で、Vulkan使用時にFlash Attentionが生成速度を低下させています。

ollama ps
./llama-bench -m llama-2-7b.Q4_0.gguf -ngl 100 -fa 0,1

• OllamaとAMD GPU：ROCm、Vulkan、役立つ変数

#どのような用途で7900 GREを選ぶべきか

このカードを特徴づけるのは、演算性能とメモリのバランスです。16 GBのメモリ容量と576 GB/sのメモリ帯域幅に対して、高い演算性能を備えています。最初の単語が表示されるまでの時間が、文章の生成速度と同じくらい重要な場合に適しています。例えば、長い文書を読み込むアシスタントや、プロンプトが数千トークンになるRAGの処理フローです。短いやり取りのチャットでは、この利点はなくなり、より広いメモリ帯域幅を持つ7800 XTが同等以上の性能を発揮します。

16GBの3枚をまとめると、7800 XTは会話用途で手軽に選べるカード、9070は読み取りが最も速く、消費電力220Wで最も省電力なカードです。7900 GREは、価格がほかの2枚を下回ったときに狙い目となるカードです。いずれも、より多くのメモリを必要とする300億パラメータのモデルを動かせるようにはなりません。

#2026年の結論

適切な選択肢

GREを7800 XT以下の価格で見つけ、かつプロンプトが長い場合

あまり適していない選択

7800 XTより高価で、用途が主に会話なら、生成では使われない演算性能にお金を払うことになります。

購入前の確認事項

Linuxではrocminfo、Windowsではタスクマネージャーを使い、システムが16 GBのVRAMと正しいグラフィックカードのモデルを認識していることを確認してください。

• ローカルAI向けグラフィックカードの価格（週2回調査）
• Ollamaドキュメント：対応AMDカード
• ROCm の GPU 互換性、AMD ドキュメント
• llama.cpp リポジトリの Vulkan スコアボード

#よくある質問