Mistral Small 3.1 24BvsLlama 3.3 70B Instruct
徹底比較: Mistral Small 3.1 24B (24B パラメータ、Mistral AI)および Llama 3.3 70B Instruct (70B, Meta)。量子化形式ごとの必要VRAM、基準となる4種類のGPUで測定したトークン/秒、用途ごとの評価、ライセンス、インストールコマンド。すべての数値はカタログデータから計算されており、ページ間のコピー&ペーストは行われていません。
要約
| 特徴 | Mistral Small 3.1 24B | Llama 3.3 70B Instruct |
|---|---|---|
| パラメータ | 24B | 70B |
| ファミリー | Mistral | Llama |
| 著者 | Mistral AI | Meta |
| 開発国 | FR | US |
| ライセンス | Apache 2.0 | Llama 3.3 Community |
| コンテキスト | 128 000 トークン | 128 000 トークン |
| 公開日 | 2025年3月 | 2024年12月 |
メモリフットプリント
平均的なコンテキストウィンドウでの推論に必要なVRAMの概算値です。勝者(緑色)は消費量が moins — 小規模モデルに有利。
| 量子化 | Mistral Small 3.1 24B | Llama 3.3 70B Instruct |
|---|---|---|
| Q4_K_M(軽量) | 14 GB | 40 GB |
| Q5_K_M(バランス型) | 17 GB | 48 GB |
| Q8(ほぼ無損失) | 26 GB | 75 GB |
| FP16(最高品質) | 48 GB | 140 GB |
| CPUのみで実行する場合のRAM | 24 GB | 64 GB |
推定速度(トークン/秒)
各GPUで実行可能な最適な量子化に基づく推定値です。実際の数値はプロンプト、コンテキスト、エンジン(llama.cpp、vLLM、MLX)によって異なります。 方法論.
| 基準となるGPU | Mistral Small 3.1 24B | Llama 3.3 70B Instruct |
|---|---|---|
| RTX 4090 (24 GB) | 40 tok/s · Q5_K_M | ✗ 重すぎる |
| RTX 4080 (16 GB) | 15 tok/s · Q4_K_M | ✗ 重すぎる |
| RTX 3060 12GB (12 GB) | ✗ 重すぎる | ✗ 重すぎる |
| Apple M4 Pro (48 GB) (36 GB) | 15 tok/s · Q8 | ✗ 重すぎる |
ユースケース別評価
一般的な用途ごとに、タグ、サイズ、専門性に基づいてどちらが最も適しているかを示します。
お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。
- 永久に利用できるオンラインスペース
- PDF + ファイル
- 30日間返金対応
強みと弱み
Mistral Small 3.1 24B
Small 3 にビジョン機能を追加。128k ctx、Apache 2.0。2025 年6月から Small 3.2 に置き換え。
- ビジョン + テキストを 24B に統合
- 128k ctx
- Apache 2.0
- 推論時 ~150 tok/s
- Ollama ≥ 0.6.5 が必要
- Small 3.2(2025 年 6 月)でわずかに改善
インストール
Llama 3.3 70B Instruct
Llama 3.1 405B と同等の品質を、1/6 のサイズで実現。重みはコミュニティライセンスで提供され、HF でのアクセスには承認が必要。
- 405Bと同等の品質を6分の1のサイズで
- 128k ctx
- 推論とコードに非常に強い
- HF gated(Meta の利用規約に同意)
- MAUが7億を超える場合の条項付きコミュニティライセンス
- ビジョン非対応
インストール
よくある質問
RTX 4090(24 GB)でより快適に動作するのは、Mistral Small 3.1 24BとLlama 3.3 70B Instructのどちらですか?
RTX 4090 では、Mistral Small 3.1 24B は Q5_K_M (約40トーク/秒)、Llama 3.3 70B Instructも24GBでは動作しません。詳細は以下の通りを参照ください 構成ツール で、お使いのGPUの機種を指定して試してみてください。
Mistral Small 3.1 24BとLlama 3.3 70B Instruct:フランス語ではどちらがより優れていますか?
フォーマルなフランス語(執筆、要約、翻訳)には、 Mistral Small 3.1 24B 優位に立ちます。充実したフランス語コーパスで学習しているためです。もう一方も使えますが、要求水準の低い用途に限られます。
VRAM消費が最も少ないのはどれか?
Q4_K_M の場合、 Mistral Small 3.1 24B 収まる容量 14 GB contre 40 GB 競合製品と比べて26GBの差があります。RTX 3060または4060 Ti 8GBをターゲットにしている場合、これは顕著な差です
これらのモデルは商用の本番環境で使用できますか?
Mistral Small 3.1 24B は Apache 2.0 ライセンスで公開されており、商用利用も自由です。 Llama 3.3 70B Instruct はLlama 3.3 Communityライセンスで提供されています。こちらの条件も確認してください。SaaSにはApache 2.0またはMITを優先してください。
2026 年にどれを選ぶべきか?
主な制約条件によります。 より小さい / より高速 :Mistral Small 3.1 24B (24B)。 より高性能 : Llama 3.3 70B Instruct (70B)。迷っている場合はこれを起動してください 構成ツール お使いのGPUとユースケースに基づいて判断します。
検討すべき代替案
どちらもご希望に合わない場合は、検討できる類似モデルを以下に紹介します。