ホーム › 比較ツール › Mistral Small 3.1 24B と Llama 3.3 70B Instruct の比較

Mistral Small 3.1 24BvsLlama 3.3 70B Instruct

徹底比較: Mistral Small 3.1 24B (24B パラメータ、Mistral AI)および Llama 3.3 70B Instruct (70B, Meta)。量子化形式ごとの必要VRAM、基準となる4種類のGPUで測定したトークン/秒、用途ごとの評価、ライセンス、インストールコマンド。すべての数値はカタログデータから計算されており、ページ間のコピー&ペーストは行われていません。

要約

特徴 Mistral Small 3.1 24B Llama 3.3 70B Instruct
パラメータ 24B 70B
ファミリー Mistral Llama
著者 Mistral AI Meta
開発国 FR US
ライセンス Apache 2.0 Llama 3.3 Community
コンテキスト 128 000 トークン 128 000 トークン
公開日 2025年3月 2024年12月

メモリフットプリント

平均的なコンテキストウィンドウでの推論に必要なVRAMの概算値です。勝者(緑色)は消費量が moins — 小規模モデルに有利。

量子化 Mistral Small 3.1 24B Llama 3.3 70B Instruct
Q4_K_M(軽量) 14 GB 40 GB
Q5_K_M(バランス型) 17 GB 48 GB
Q8(ほぼ無損失) 26 GB 75 GB
FP16(最高品質) 48 GB 140 GB
CPUのみで実行する場合のRAM 24 GB 64 GB

推定速度(トークン/秒)

各GPUで実行可能な最適な量子化に基づく推定値です。実際の数値はプロンプト、コンテキスト、エンジン(llama.cpp、vLLM、MLX)によって異なります。 方法論.

基準となるGPU Mistral Small 3.1 24B Llama 3.3 70B Instruct
RTX 4090 (24 GB) 40 tok/s · Q5_K_M ✗ 重すぎる
RTX 4080 (16 GB) 15 tok/s · Q4_K_M ✗ 重すぎる
RTX 3060 12GB (12 GB) ✗ 重すぎる ✗ 重すぎる
Apple M4 Pro (48 GB) (36 GB) 15 tok/s · Q8 ✗ 重すぎる

ユースケース別評価

一般的な用途ごとに、タグ、サイズ、専門性に基づいてどちらが最も適しているかを示します。

一般チャット
Llama 3.3 70B Instruct が勝利。 この用途では、能力と制約のバランスが最も良い。
格調高いフランス語
Mistral Small 3.1 24B が優位。 充実したフランス語コーパスで学習しており、慣用表現をより適切に扱えます。
推論 / 数学
Llama 3.3 70B Instruct が勝利。 推論過程を明示するモデル(chain-of-thought)で、数学・論理の問題でより優れています。
ビジョン / 画像
Mistral Small 3.1 24B が優位。 画像入力をネイティブでサポートします。
RAG / 長い文書
Llama 3.3 70B Instruct が勝利。 コンテキストウィンドウがより大きく(128,000トークン)、長い文書に適しています。
エージェント & ツール使用
Llama 3.3 70B Instruct が勝利。 ツールの使用と複数段階の指示への対応で、より優れています。
ローカルAIキット

お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。

  • 永久に利用できるオンラインスペース
  • PDF + ファイル
  • 30日間返金対応

強みと弱み

Mistral AI · 24B

Mistral Small 3.1 24B

Small 3 にビジョン機能を追加。128k ctx、Apache 2.0。2025 年6月から Small 3.2 に置き換え。

  • ビジョン + テキストを 24B に統合
  • 128k ctx
  • Apache 2.0
  • 推論時 ~150 tok/s
  • Ollama ≥ 0.6.5 が必要
  • Small 3.2(2025 年 6 月)でわずかに改善

インストール

ollama run mistral-small3.1:24b
Meta · 70B

Llama 3.3 70B Instruct

Llama 3.1 405B と同等の品質を、1/6 のサイズで実現。重みはコミュニティライセンスで提供され、HF でのアクセスには承認が必要。

  • 405Bと同等の品質を6分の1のサイズで
  • 128k ctx
  • 推論とコードに非常に強い
  • HF gated(Meta の利用規約に同意)
  • MAUが7億を超える場合の条項付きコミュニティライセンス
  • ビジョン非対応

インストール

ollama run llama3.3:70b

よくある質問

RTX 4090(24 GB)でより快適に動作するのは、Mistral Small 3.1 24BとLlama 3.3 70B Instructのどちらですか?

RTX 4090 では、Mistral Small 3.1 24B は Q5_K_M (約40トーク/秒)、Llama 3.3 70B Instructも24GBでは動作しません。詳細は以下の通りを参照ください 構成ツール で、お使いのGPUの機種を指定して試してみてください。

Mistral Small 3.1 24BとLlama 3.3 70B Instruct:フランス語ではどちらがより優れていますか?

フォーマルなフランス語(執筆、要約、翻訳)には、 Mistral Small 3.1 24B 優位に立ちます。充実したフランス語コーパスで学習しているためです。もう一方も使えますが、要求水準の低い用途に限られます。

VRAM消費が最も少ないのはどれか?

Q4_K_M の場合、 Mistral Small 3.1 24B 収まる容量 14 GB contre 40 GB 競合製品と比べて26GBの差があります。RTX 3060または4060 Ti 8GBをターゲットにしている場合、これは顕著な差です

これらのモデルは商用の本番環境で使用できますか?

Mistral Small 3.1 24B は Apache 2.0 ライセンスで公開されており、商用利用も自由です。 Llama 3.3 70B Instruct はLlama 3.3 Communityライセンスで提供されています。こちらの条件も確認してください。SaaSにはApache 2.0またはMITを優先してください。

2026 年にどれを選ぶべきか?

主な制約条件によります。 より小さい / より高速 :Mistral Small 3.1 24B (24B)。 より高性能 : Llama 3.3 70B Instruct (70B)。迷っている場合はこれを起動してください 構成ツール お使いのGPUとユースケースに基づいて判断します。

検討すべき代替案

どちらもご希望に合わない場合は、検討できる類似モデルを以下に紹介します。

さらに詳しく