機密情報を扱うプロ — « 私の資料は、このパソコンの外には出ません。 »
法律専門家、医師、人事担当者、コンサルタント、公認会計士、公証人の方へ。あなたの文書は、職業上の守秘義務やNDAの対象です。ローカルLLMとRAGを組み合わせれば、何もアップロードせずに、文書について質問し、要約し、比較し、照合できます。コマンドラインも不要です。
最終的に、LM Studioは洗練されたグラフィカルインターフェース（ターミナルなし）で動作します。13〜24Bのモデルがロードされます。PDFのフォルダはAnythingLLMまたは組み込みのDocuments機能を通じてインデックス化されます。アーカイブにフランス語で質問し、ページ番号付きの正確な引用を取得し、要約をエクスポートできます——バイト単位で端末外にデータが流出することはありません。
対象者 どんな人向け？
30分を無駄にしていただくより、早めにお伝えしたいと考えています。
- ✓文書には、専門職の守秘義務（弁護士、医師、公証人、公認会計士）が適用されます。
- ✓NDAの下で作業しており、クラウドツールの利用は契約上禁止されています。
- ✓GDPRの対象となる個人データを扱っているため、EU域外への移転を避けることが必須です。
- ✓ターミナルでコマンドを入力するよりも、すっきりして分かりやすいUIを使いたい。
- ✓毎回アップロードし直すことなく、100〜10,000件のPDFについて質問したい。
- ·データが公開されていて、アシスタントが欲しいだけなら、クラウドサービスのほうが手軽です。
- ·テラバイト単位のドキュメントを扱っているなら、ワークステーションではなく、サーバーへの導入が必要です。
- ·毎秒数百件の文書をリアルタイムで処理したい場合、単純なRAGでは対応しきれません。vLLMまたはTGIをご検討ください。
5ステップで進む学習パス
各ステップには、作業と並行して読める詳しいガイドへのリンクがあります。順序は最適化されています。初回はステップを飛ばさないでください。
- 1ステップ 01·5 分·初心者
LM Studio をインストール
Windows、macOS、Linux 向けの通常のインストーラーです。充実したグラフィカルインターフェースで、検索、モデルのダウンロード、チャット、設定を行えます。ターミナルを開く必要は一切ありません。
LM Studio がインストールされています。モデルギャラリーが表示されます。ガイドを読む → - 2ステップ 02·8 分·中級
13～24Bのモデルを選択
Mistral Small 24B（Q4）はVRAMが16 GBあれば使えます。Qwen2.5 14B（Q4）は12 GBあれば使えます。アプリ内で直接ダウンロードでき、整合性も自動で検証されます。
テキスト分析に適した頑健なモデルがメモリに読み込まれています。ガイドを読む → - 3ステップ 03·20 分·初心者
ドキュメントのインデックス化
AnythingLLMまたはOpen WebUIをRAG部分に使用します。フォルダを指定し、フランス語の埋め込みモデル（Solon、BGE-M3）を選択してインデックス作成を開始します。すべてのデータはディスク上に残ります。
あなたのPDFはローカルのベクトルデータベース（ChromaDB）にインデックスされます。ガイドを読む → - 4ステップ 04·8 分·初心者
ネットワークの隔離を確認
チェックリスト：Wiresharkで外部へのデータ送信がないことを確認する、テレメトリがあれば無効にする、モデルのフォルダを暗号化する、暗号化したローカルバックアップを作成する。
信頼性を確認済み：使用中の送信パケットはゼロ。ガイドを読む → - +ステップ bonus·15 分·上級
ボーナス — 完全なエアギャップ
特に機密性の高い資料を扱う場合は、システムの自動更新を除くすべての外向き通信を遮断するファイアウォールルールを設定します。念には念を入れた対策です。
機密性の高いセッション向けに、オフラインであることを認証済みのマシンです。ガイドを読む →
おすすめモデル
この学習コース向けにテストした3つの選択肢を、最も軽量なものから最も高性能なものまで紹介します。クリックすると詳細ページ（VRAM、コンテキスト、ベンチマーク）が開きます。
仕事用の標準モデルとしておすすめです。フランス語、長文の要約、法的な推論に優れています。
詳細を確認 →より軽量（Q4 で 9GB）で、体系的な分析に非常に優れています。スペックが控えめなマシン向けです。
64 GBのMac、または48 GBのVRAMを搭載したワークステーション向け。ローカルで「2023年のGPT-4」水準の品質。
よくある質問
メールやMastodonで実際に寄せられる質問です。ご自身の質問が掲載されていない場合は、チケットを作成してください。
好奇心旺盛な人 — « 気軽に試してみたいだけです。 »
ローカルLLMについて聞いたことがあり、自分のマシンでどのように動くのか見てみたいと思っている方へ。コードも、複雑なコマンドライン操作も必要ありません — 15分で、あなたのとチャットできます…
あなたのドキュメント、あなたのAI：あなたのPDF、メモ、メールを扱う信頼性の高いローカルRAG。何もクラウドに送信しません。
- 永久に利用できるオンラインスペース
- PDF + ファイル
- 生涯アップデート
ご質問、誤字・脱字、バグはありますか？
この学習コースはモデルがリリースされるたびに進化します。皆さんからのフィードバックが、その材料となります。