ファミリー OLMo · 7B パラメータ

OLMo 3 7B Think (SFT)

Name: OLMo 3 7B Think (SFT)
Author: zimplex

OLMo 3 7BをSFTで「thinking」向けにファインチューニングしたモデル：段階的な推論、16kのコンテキスト、Q4で約4.2 GBのVRAM。100%オープン、Apache 2.0ライセンス。

🇺🇸 zimplex·ライセンス Apache 2.0·コンテキスト 15.625k tokens·公開日 2026-08-28·128 GBの範囲に収まる GIGABYTE AI TOP ATOM← カタログ

01できること

長所

明示的な段階ごとの推論（思考の連鎖）
Dense 7B：Q4（約4.2 GB）ならVRAM 8 GBのGPUに収まる
ベースとなるOLMoは100％オープン（重み＋データ＋コード）
許諾条件の緩やかな Apache 2.0 ライセンス

知っておくべき限界

—コミュニティによるファインチューニング版で、Allen AIの公式版ではありません
—コンテキストサイズ16kは、最近の128kと比べて限定的です
—公式なOllamaタグは存在しない（Hugging Face経由でのデプロイ）

アーキテクチャ

7BのDense Transformer（ベースモデルOLMo 3 7B、Allen AI）

トレーニング

ベースモデルOLMo 3 7Bに「thinking」を重視したSFTファインチューニングを適用：EOSトークンの修正、16kのコンテキストウィンドウ、3エポック。

おすすめの用途

ローカルでの論理的推論思考の連鎖（CoT）チャットGPU 8GB

04インストール

インストール Ollama お使いのOS向け。ダウンロード前にモデルと量子化を確認してください。まずはコンテキストを4096トークンに設定し、その後、ollama ps でモデルの配置先を確認してください。以下にコマンドが記載されていることは、お使いのマシンでテストが実行された証拠にはなりません。

$# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc

⚠

初回ダウンロード：選択した量子化により 2 GB から 40 GB。ディスク容量を確保し、安定した接続を推奨します。その後の起動は即時です。

02必要なメモリ

このモデルを動作させるためのGPU VRAMの概算値（4kトークンのコンテキストオーバーヘッドを含む）。より長いコンテキストが必要な場合は、8kトークンごとに約1 GBを追加してください。

Q4_K_M

最も軽量、損失約 5%

4.2 GB

Q5_K_M

品質とサイズのバランスが良好

5 GB

Q8_0

FP16とほぼ区別がつかない

8 GB

FP16

フル精度 — サーバー用途

15 GB

CPU フォールバック ・GPUがない場合は、 9 RAM（GB）このモデルを低速で実行するための最低要件。

OLMo 3 7B Think (SFT)に必要なハードウェアは？

OLMo 3 7B Think (SFT)をQ4量子化でローカル実行するには、VRAM 4.2 GB程度が必要です。比較候補：RTX 5060 Ti 16GB (ASUS Prime) — システムとコンテキスト用のメモリに余裕を持たせ、推論エンジンがGPUに対応していることを確認してください。

現在のオファー： RTX 5060 Ti 16GB (ASUS Prime)

Amazon価格を見る →

アフィリエイトリンク — あなたに追加費用はかからず、手数料を受け取る場合があります。独立したおすすめ情報です。Amazonパートナーとして、ローカルLLMナビは、所定の条件を満たす購入から利益を得ています。

外出先では： OLMo 3 7B Think (SFT) 〜でも動作します RTX搭載ノートPC (16 GBのVRAM) →

クラウドを使わず、このモデルを自分専用のChatGPTで利用

お使いのマシンで、プライベートかつ無料のChatGPTを1時間で構築 — LM Studio、Ollama、Open WebUI、ご自身のドキュメント、クラウド不要。