上級 12 分llama.cpp
Vulkanを使うllama.cpp(GPU universel)

Vulkan はメーカーを問わず使えるグラフィックス API で、NVIDIA、AMD、Intel Arc に加え、内蔵 GPU(iGPU)でも動作します。Vulkan バックエンドを有効にして llama.cpp をコンパイルすれば、CUDA や ROCm にまつわる面倒を完全に回避し、どこでも動作する構成を用意できます。その代わり、ネイティブバックエンドより性能が10~20%低下しますが、異なるメーカーのハードウェアが混在する環境では、多くの場合、妥当な選択です。
#なぜVulkanなのか
- Vendor-agnostic
- 同じバイナリがGeForce、Radeon、Arc、Irisで動作します。ツールの配布や、グラフィックカードを購入する前のモデルのテストに便利です。
- 簡単なインストール
- Vulkanドライバーは標準のグラフィックスドライバーに含まれています。数GBものToolkitをインストールする必要はありません。
- 旧世代のカード
- GTX 1060 6 GB や RX 580 は、CUDA では対応が打ち切られ、ROCm ではサポートされない場合でも、Vulkan 経由で動作します。
- Intel Arc
- Arc A580/A750/A770はVulkan経由で適切にサポートされますが、oneAPIはやや不安定です。
#対応GPU
- NVIDIA
- Maxwell以降のすべてのカード(GTX 900シリーズ以降)。最近のNVIDIAドライバーはすべてVulkanに対応しています。
- AMD
- Polaris(RX 400/500)、Vega、Navi(RX 5000/6000/7000/9000)。Linux では Mesa、Windows では公式ドライバーを使用します。
- Intel Arc
- Alchemist(A380~A770)とBattlemage。ローカルAIにおける性能と価格のバランスに優れています。
- Intel iGPU
- Xe(Tiger Lake以降)、Xe2(Lunar Lake、Arrow Lake)。専用GPUのないノートパソコンで小型モデルを動かすのに役立ちます。
#前提条件
#1. ビルド
Vulkanシェーダーはビルド中にコンパイルされます。CPUによって3~8分かかります。
ローカルAIキット
お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。
- 永久に利用できるオンラインスペース
- PDF + ファイル
- 30日間返金対応
#2. テストする
起動時にllama.cppはVulkan経由で検出したGPUを表示します:ggml_vulkan: Found 1 Vulkan devices: ... Intel(R) Arc(TM) A770。GPUが複数ある場合は、-mg N (main GPU index)で選択できます。
#3. CUDA / ROCmとの性能比較
Qwen 3.5 9B Q4_K_MでFlash Attentionを有効にした場合のトークン/秒(おおよその目安):
- RTX 4070 — CUDAネイティブ対応
- 約82 tok/s(基準値)。
- RTX 4070 — Vulkan
- ~70 tok/s(-15 %)。
- RX 7800 XT — ROCm
- ~56 tok/s。
- RX 7800 XT — Vulkan
- 約48トークン/秒(-15%)。ROCmがうまく動作しないときには、最速になることもあります。
- Arc A770 16 GB — Vulkan
- 約43 tok/s。コストパフォーマンスが最も優れています。
- Intel Xe iGPU(Lunar Lake)
- ~8-13 tok/s。2-3Bなら実用的ですが、9Bでは苦戦します。
#Vulkanを選ぶタイミング
- Intel Arcのグラフィックカードを使用している
- 2026年時点では、Vulkan は oneAPI より優れています。性能は安定しており、特殊なインストール作業も不要です。
- ROCmがうまく動かない
- AMD カードが公式サポート対象外で、override を使ってもクラッシュする場合、Vulkan が使える代替手段です。
- マルチベンダー構成
- GeForceとIntel Arcを併用するマシンや、Thunderbolt接続のeGPUを状況に応じて使い分けるノートPC。Vulkanはこうした構成にも対応できます。
- ツールの配布
- 実行環境が事前に分からないマシンでも動作するアプリを開発する場合は、Vulkan版のバイナリが最も高い互換性を備えています。
i
Mac向けではありません
macOS では、Vulkan は MoltenVK(Metal への変換レイヤー)を介して動作します。代わりに llama.cpp のネイティブ Metal バックエンドを使用してください。その方が高速です。
このガイドは役に立ちましたか?
ご意見、誤りのご指摘、補足はありますか?ぜひお知らせください。皆さんにとってより良いガイドにするために役立ちます。
QuelLLM キット用途別のリファレンスガイド
すべてのキットを永久に利用 — 49 €