Qwen 3.6 27B のローカル実行:〜ごとのメモリ 量子化

#Qwen 3.6 27B:簡潔な答え

Qwen 3.6 27B をプロセッサにあふれさせずに使用するには、VRAM 24 GB のカード、または 32 GB 以上のユニファイドメモリを搭載した Mac をご用意ください。24 GB の Mac は、コンテキストを短くし、ほかに開くアプリケーションを少なくすれば、試用に適している場合があります。これを下回る場合でもモデルを読み込める可能性はありますが、計算の一部はプロセッサで実行されます。

Commande

ollama run qwen3.6:27b. Le tag existe dans la bibliothèque officielle d'Ollama (relevé du 5 septembre 2026).

ファイル

Ollama では 18 GB(2026年9月29日時点の調査)、LM Studio のページでは 16.10 GB(2026年9月5日時点の調査)。

その他の量子化

QuelLLM カタログによると、Q5 で約 19 GB、Q8 で約 29 GB、FP16 で約 54 GB です。これらは推定値であり、公式のファイルサイズではありません。

コンテキスト

Ollama は、VRAM が 24 GiB 未満では 4 k トークン、24 から 48 GiB では 32 k、48 GiB 以上では 256 k を割り当てます。値を増やすと、その分だけファイルとは別にメモリを消費します。

確認の習慣

ollama ps：PROCESSOR 列に 100% GPU と表示されないうちは、モデルが GPU メモリからあふれています。

#インストールされるもの

Qwen 3.6 27B は Alibaba の dense(密)モデルで、2026年4月に Apache 2.0 ライセンスで公開されました。「dense」とは、270億個のパラメーターが各トークンの計算に関与することを意味します。Ollama のページでは、ビジョン、ツール、推論(thinking)の機能を備え、公称の最大コンテキストは 256 k トークンとされています。完全な仕様は /modele/qwen36-27b のページに記載されています。本ガイドではメモリとインストールのみを扱います。

このモデルは、同じサイズのモデルの中で最新ではなくなりました。2026年8月に Qwen 3.8 27B が後継として登場しています。3.6 は、プロンプトをすでにこのモデルに合わせて調整している場合や、お使いのツールのドキュメントで言及されている場合には、引き続き利用する価値があります。初めてインストールする場合は、独自のタグと設定を持つ Qwen 3.8 27B に関する当サイトのガイドも併せて比較してください。

#量子化ごとの Qwen 3.6 27B の必要メモリ

量子化は、重みの精度を下げることでサイズを削減します。量子化が強いほどファイルは軽くなりますが、品質が低下するおそれがあります。これらの数値は位置づけが異なるため、この表では公開サイズとカタログの推定値を意図的に分けています。

「サイズ + 15~25 %」の列には、Qwen 3.8 27B に関する当サイトのガイドと同じ、安全側に見積もるための目安を適用しています。これは、コンテキストキャッシュとエンジンのオーバーヘッドを見込むためのものです。あくまで計算値であり、測定値ではありません。実際の消費量は、選択したコンテキスト、エンジン、同時に動作しているものによって変わります。

18 GB と 16.10 GB の違いはなぜですか?

Ollama と LM Studio が配布するパッケージは、必ずしも同じとは限りません。当サイトの調査では、この差の原因を特定することはできません。お使いのツールに表示される数値を基準にしてください。

カタログで Q4 が 16 GB と表示されているのはなぜですか?

これはパラメーター数に基づく推定値です。おおよその目安にはなりますが、Ollama が公表しているファイルサイズより 2 GB 小さくなっています。このタグについては、Ollama の数値を優先してください。

比較の目安

同じサイズのモデルである Qwen 3.8 27B について、Ollama は Q4_K_M で 18 GB、Q8 で 30 GB、BF16 で 56 GB と公表していました(2026年8月18日時点の調査)。これらは別のモデルの値であり、傾向を示すものにすぎず、3.6 の調査結果に代わるものではありません。

複数のバリアントがメモリに収まる場合は、まず Q4_K_M から始めてください。これは QuelLLM で推奨されている設定です。上位のバリアントに移行するのは、ご自身のプロンプトで量子化に起因する問題が確認できた場合だけにしてください。このトレードオフの全般的な説明は、量子化の選び方に関する当サイトのガイドをご覧ください。

#コンテキスト用に確保しておく余裕

ファイルサイズは出発点にすぎません。エンジンはコンテキストウィンドウ、つまり会話、ドキュメント、モデルの推論のためのメモリも確保します。公表されている 256 k トークンのコンテキストは上限であり、実際に割り当てられる量ではありません。

VRAM が 24 GiB 未満

Ollama は 4 k トークンから始まります。短いやり取りには十分ですが、長い文書には足りません。

24~48 GiB

デフォルトで 32 k トークン:RTX 4090 に相当する範囲です。

48 GiB 以上

デフォルトで 256 k トークン。この割り当ては多くの領域を占有します。必要がなければ減らしてください。

エージェント、コード、Web 検索

Ollama は、これらの用途に少なくとも 64,000 トークンを推奨しています。24 GB では、この値を使用できるとは限りません。ollama ps で確認しながら試してください。

リスクは二つあります。ウィンドウが短すぎると、エンジンは入力の一部を除外せざるを得ず、モデルは不完全なテキストに基づいて応答します。ウィンドウが長すぎると、モデルがプロセッサにあふれる可能性があります。このモデルでの測定結果がないため、本ガイドではトークン数の区分ごとの GB の数値は示しません。段階的に増やしていくのが適切な方法です。

1. 01
   デフォルト値から始めてください

   普段使っているリクエストでモデルを実行し、ollama ps の出力を確認します。使用メモリ、コンテキスト、GPU/CPU の配分を記録してください。
2. 02
   段階的に増やしてください

   たとえば 8 k から 16 k、さらに 32 k、64 k トークンへと増やします。コンテキストはロード時に固定されるため、変更のたびにモデルを再ロードしてください。
3. 03
   メモリからあふれる前に止めてください

   PROCESSOR に CPU と GPU への分割が表示されたら、すぐに直前の段階に戻してください。画像も送信する場合は、その処理にもメモリが使われるため、少し余裕を残してください。

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.6:27b",
  "prompt": "Résume ce texte en trois points : ...",
  "stream": false,
  "options": { "num_ctx": 32768 }
}'

Ollama がすでにサービスとして動作している場合、ターミナルで実行したコマンドではサービスは変更されないため、変数はサービスの設定で定義する必要があります。Ollama アプリケーションの設定にも、コンテキストのスライダーが用意されています。

#お使いのマシンで足りますか?

メモリの表は、比較的簡単にハードウェア要件に置き換えられます。以下の目安は 18 GB のデフォルトタグに関するものです。これらはこのサイズ計算から導いたものであり、実機テストの結果ではありません。速度については一切示していません。

RTX 3060 12 GB、RTX 4070 12 GB

ファイルが VRAM を超えているため、モデルの一部はプロセッサ上で動作します。Q4 で 14B 程度のサイズ(≈ 9 GB)の、より小さなモデルをおすすめします。

RTX 4080 16 GB

18 GB のファイルは依然として VRAM の容量を超えており、LM Studio の 16.10 GB もコンテキストを加えると同様に超えます。GPU と CPU で分担すれば使用できますが、快適とは言えません。

RTX 4090 24 GB

最初の妥当な目安です。ファイルサイズに加えて約 6 GB の余裕があり、コンテキストとエンジンのオーバーヘッドに充てられます。

Mac M4 Pro 24 GB

試用であれば可能です。システムとアプリケーションは、モデルと同じメモリを使用します。コンテキストを短くし、重いアプリケーションを終了してください。

Mac 32〜48 GB

日常的な用途に適した無理のない選択で、コンテキストにも十分な余裕があります。

グラフィックカードなし

QuelLLM のカタログでは、必要な RAM を 28 GB と見積もっています。モデルは動作する可能性がありますが、生成速度は GPU 使用時よりかなり遅くなると考えてください。

ディスクの空き容量も確保してください。少なくともファイルサイズ分が必要で、複数のバリアントを保持する場合はさらに余裕を持たせてください。お使いの構成については、QuelLLM のコンフィギュレーターで最初の見積もりを確認でき、その結果は ollama ps で確かめてください。

#Ollama で Qwen 3.6 27B をインストールする

Ollama は、API でアクセスできるローカルサービスを http://localhost:11434 上で利用したい場合に適しており、必要に応じて Open WebUI をインターフェースとして使えます。

1. 01
   Ollama をインストールまたは更新します

   Linux では、以下の公式スクリプトを使用してください。macOS と Windows では、ollama.com からアプリケーションをダウンロードしてください。古いバージョンではモデルを認識できない場合があります。エラーが発生した場合は、まずアップデートを行ってください。
2. 02
   モデルをダウンロードする

   ollama pull qwen3.6:27b récupère le fichier. Si la connexion coupe, relancez la commande.
3. 03
   受け取った内容を確認してください

   ollama show qwen3.6:27b affiche notamment la quantification, le contexte maximal et les capacités du paquet. C'est le moyen le plus sûr de savoir à quelle variante correspond le tag par défaut.
4. 04
   最初のやり取りを開始する

   最初の応答は、重みがメモリに読み込まれた後に返ってきます。モデルが読み込まれている間に、もう一つのターミナルで ollama ps の出力を確認してください。

# Linux : installer ou mettre à jour Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger le modèle
ollama pull qwen3.6:27b

# Vérifier la quantification, le contexte et les capacités
ollama show qwen3.6:27b

# Discuter avec le modèle
ollama run qwen3.6:27b

# Dans un second terminal : mémoire et répartition GPU/CPU
ollama ps

Mac Apple Silicon では、ライブラリに MLX エンジン向けの qwen3.6:27b-mlx も用意されています(2026年9月5日時点の調査)。サイズが異なる場合があるため、選択する前にタグのページを確認してください。

#LM Studio でインストールする

LM Studio は、コンテキストや GPU に送るレイヤー数を画面上で確認しながら設定できる GUI を使いたい場合に適しています。公式ページの識別子は qwen/qwen3.6-27b で、サイズは 16.10 GB と記載されており、ツールの使用、ビジョン、推論への対応も確認できます(2026年9月5日時点の確認値)。

1. 01
   モデルを検索してください

   モデル検索で qwen/qwen3.6-27b と入力します。LM Studio は利用可能なバリアントを一覧表示し、お使いのハードウェアに適していると判断したものを目立つように表示します。
2. 02
   形式を選択します

   PC では GGUF、Mac では MLX または GGUF を選びます。表示されたサイズをお使いのメモリと比較し、前の表に示した余裕を確保してください。
3. 03
   読み込みを設定します

   モデルを読み込む前に、コンテキスト長と GPU へのオフロードを調整してください。控えめな値から始め、Ollama の場合と同様に段階的に増やしてください。
4. 04
   メモリを監視します

   実際のリクエストで試し、使用メモリを確認してください。システムの動作が遅くなる場合は、量子化を変更する前にコンテキストを減らしてください。

# Variante GGUF (--mlx sur Mac pour le format MLX)
lms get qwen/qwen3.6-27b --gguf

その後、LM Studio のローカルサーバーを使って、モデルを他のアプリケーションから利用できるようにすることができます。この手順は、API に関する当サイトのガイドで詳しく説明しています。二つのツールのどちらを選ぶかについては、Ollama と LM Studio の比較記事を参照してください。

#Qwen 3.6 27B か 35B-A3B か:原理面から見た選択

どちらのモデルも同じファミリーに属しますが、構造は異なります。27B は密なモデルです。35B-A3B は Mixture-of-Experts (MoE) で、パラメータ数は 350億、そのうち各トークンでアクティブになるのは約 30億です。以下の比較はこのアーキテクチャと公開サイズに基づくものであり、ベンチマークには基づいていません。

メモリ

27B が有利です。LM Studio のページでは 16.10 GB に対して 20.40 GB です(2026年9月5日時点の確認値)。MoE は、各トークンで動作するエキスパートが少数であっても、すべてのエキスパートをメモリに保持する必要があります。

トークンごとの計算

原理上は 35B-A3B が有利です。アクティブなパラメータが少ないほどトークンあたりの計算量は減りますが、モデル全体がメモリに収まることが条件です。実際の差はお使いのマシンによって異なります。

24 GB の上限ぎりぎりの場合

27B のほうがコンテキストに使える余裕が大きくなります。35B-A3B は余裕が小さく、長いドキュメントでは影響が出る場合があります。

32 GB 以上ある場合

どちらも動作します。ご自身のタスクで試してみてください。応答性を重視するなら 35B-A3B、ビジョンが重要なら 27B です(その機能は当サイトの調査で確認されています)。

ライセンス

どちらも Apache 2.0 です。この基準では優劣がつきません。

#トラブルシューティング

ダウンロード時の「model not found」

綴りを確認してください。正しくは qwen3.6:27b で、ドットを含みます。量子化のサフィックスが拒否される場合は、そのサフィックスが存在しない可能性があります。タグのページを確認し、そこにタグが掲載されていれば Ollama を更新してください。

生成速度が非常に遅い

ollama ps を確認してください。CPU/GPU の分割が表示される場合は、メモリからあふれています。コンテキストを減らす、GPU を使用しているアプリケーションを閉じる、またはより小さいモデルに切り替えるといった対応を行ってください。

ドキュメントの冒頭が無視されているように見える

おそらくコンテキストが短すぎます。特に 24 GiB 未満でデフォルトの 4 k トークンを使用している場合に、その可能性が高くなります。num_ctx を増やすか、ドキュメントを分割してください。

OLLAMA_CONTEXT_LENGTH の設定が反映されない

この変数はクライアントではなくサーバーに適用する必要があります。変更後にサービスを再起動し、モデルを再読み込みしてください。

読み込み時のメモリエラー

まずコンテキストを減らしてください。それでもエラーが解消しない場合は、空きメモリと読み込まれているモデルの数を確認してください。ollama stop qwen3.6:27b を実行すると、このモデルが解放されます。

このガイドと異なるサイズ

パッケージは変更される場合があります。その時点の公式ページとお使いのツールの表示を基準にしたうえで、同じ余裕を確保してください。

#さらに詳しく

これらのページは、ガイドの数値を繰り返すことなく内容を補完するものです。仕様についてはモデルのページを、その他のモデルや一般的な概念については関連ガイドを参照してください。