中小企業向けの社内AIチャットボットの導入（0～50 collaborateurs)

#ChatGPT Business よりも社内チャットボットを選ぶ理由

ChatGPT チームの利用料はユーザーあたり月額25€です。30名の協力者に対しては年間9,000€となり、無期限で適用されます。同額の予算でワークステーションを購入し、その機器は4〜5年間稼働し、すべての会話がオフィス内で留まるという選択肢があります。これは中心的な判断です。

しかし、本当の問題は価格ではありません。チームのメンバーがどこまでの情報をチャット画面に貼り付けてしまうかです。営業担当者が外部のLLMに提案書の言い換えを依頼すると、その内容には顧客名や金額、ときには利益率も含まれます。人事担当者が面接を要約すると、職務経歴が明らかになります。これを30人が12か月間繰り返すと考えてみてください。適切な利用のためのポリシーがあっても、情報漏えいは確実に起こります。

プライバシー

会話はあなたのLAN上で行われます。クラウド経由の転送は行われず、米国に委託されたサブコントラクターへの暴露もありません。また、四半期ごとに政治的な設定を確認する必要もありません。

固定コスト

ハードウェアは4〜5年で減価償却する設備投資（CAPEX）です。SaaSのサブスクリプションは、従業員数に応じて増える運用費（OPEX）です。

自分で管理できる

モデルを選び、システムプロンプトを調整し、RAG 経由で社内ドキュメントを接続できます。知らないうちに誰かがツールを変更することはありません。

コンプライアンス

EU域外の事業者に依存する場合よりも、オンプレミスシステムを使う場合の方が、AI ActとRGPDへの準拠を説明しやすくなります。

#1. ハードウェア予算：5,000〜10,000€のワークステーション

20Bから35BのモデルをQ4_K_M品質で30〜50人の同時接続に対応させるには、DGXサーバーは必要ありません。適切に選定したワークステーションで十分対応できます。プロファイルに応じた3つの構成例を以下に示します。

#構成A — ユーザー10〜20人（5,000ユーロ）

GPU

1台のRTX 4080（16GB、中古、価格は変動）またはRTX 5070 Ti（16GB、新品、2026年9月末時点での価格は約1,400€）。20～24BのモデルをQ4_K_Mで動作させ、16kトークンのコンテキストをサポートします。

CPU

AMD Ryzen 9 7900XまたはIntel Core i7-14700K。CPU性能はそれほど重要ではありませんが、12コア以上あると埋め込みの準備に役立ちます。

システムRAM

64 GB DDR5。システム、Qdrant、およびGPUに収まりきらずシステムメモリに移されるKVキャッシュに十分な容量です。

ストレージ

2 TBのNVMe Gen4。モデル＋ベクトルデータベース＋ローカルバックアップ。

提供されるモデル

Mistral Small 24B（一般向け、フランス語に優れる）または gpt-oss 20B Q4_K_M（~14 GB VRAM）。遅延は約30トーク/秒です。

#パターンB — ユーザー20〜35人（7,500ユーロ）

GPU

RTX 4090 24 GBを1枚 — 新品は販売されていないため、中古を探す必要があります（価格は変動）。27〜30BのモデルをQ4_K_Mで提供するための、バランスが最もよい選択肢です。

CPU

Ryzen 9 7950X または Threadripper 7960X。複数の会話を同時に処理する際に、CPU コアが役立ちます。

システムRAM

可能であれば128GBのDDR5 ECCメモリ。RAGのインデックスは急速に大きくなります。

ストレージ

2TBのNVMe Gen4＋アーカイブ用の4TB SATA。

提供されるモデル

Qwen 3.8 27B（2026年の「Copilotに近いモデル」、262kのコンテキスト）またはGranite 4.2 30BをQ4_K_Mで使用（約18GBのVRAM）。レイテンシ：約20〜25トークン/秒。

#構成例C — 利用者35〜50人（10,000€）

NVIDIAを使う構成

2× RTX 4090 24 GBをテンソル並列で構成。Q8フル品質の27〜35Bモデル（VRAM合計約30〜40 GBを分散）をサーブするか、2つのモデルを並列で実行でき、許容可能なレイテンシを実現します。

Apple製品を選ぶ場合

64〜128 GBのユニファイドメモリを搭載したMac Studio M4 MaxまたはUltra。静音性と性能のバランスに優れ、オープンプランのオフィスに最適です。

CPU

NVIDIAを使う構成ではThreadripper 7970X / 7980X。50本のWebSocket接続を同時に処理するうえで不可欠です。

システムRAM

128～256 GB。OSのキャッシュ、RAM上のQdrant、必要に応じて併用する埋め込みモデルのために余裕を確保します。

提供されるモデル

Qwen 3.8 27B で Q8 または Qwen 3.6 35B-A3B（MoE ファスト）で Q5_K_M。遅延は約15〜20トーク/秒。

#2. 推奨技術スタック

四つのオープンソースの構成要素で十分です。どのベンダーにも監督権はなく、更新する必要のあるライセンスもありません。すべてワークステーション上のDockerで動作します。

Ollama

モデルを読み込み、提供するデーモンです。デフォルトではhttp://localhost:11434でリクエストを待ち受けます。NVIDIA GPUを自動検出し、量子化を管理します。MITライセンスです。

Open WebUI

ChatGPTのようなウェブインターフェース。マルチユーザー機能を標準搭載し、RBAC、SSO用のOIDC連携、ユーザーごとの履歴に対応。ライセンス：BSD-3。

Qdrant

RAG用のベクトルデータベース。社内文書（手順書、契約書のひな形、製品資料）をインデックス化します。この規模ではpgvectorより高速でシンプルです。Apache 2ライセンス。

TraefikまたはNginx

内部証明書を使ってLAN上にOpen WebUIをHTTPSで公開し、TLSを終端してバックエンドにルーティングするためのリバースプロキシ。

services:
  ollama:
    image: ollama/ollama:latest
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    volumes:
      - ollama_data:/root/.ollama
    restart: unless-stopped

  qdrant:
    image: qdrant/qdrant:latest
    volumes:
      - qdrant_data:/qdrant/storage
    restart: unless-stopped

  openwebui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - QDRANT_URL=http://qdrant:6333
      - ENABLE_OAUTH_SIGNUP=true
      - OAUTH_PROVIDER_NAME=Microsoft
      - MICROSOFT_CLIENT_ID=${ENTRA_CLIENT_ID}
      - MICROSOFT_CLIENT_SECRET=${ENTRA_CLIENT_SECRET}
      - MICROSOFT_CLIENT_TENANT_ID=${ENTRA_TENANT_ID}
    volumes:
      - openwebui_data:/app/backend/data
    depends_on:
      - ollama
      - qdrant
    restart: unless-stopped

volumes:
  ollama_data:
  qdrant_data:
  openwebui_data:

このひな形は意図的に短くしています。HTTPS用に前段へTraefikを追加し、NASへの夜間バックアップ用にバインドマウントのボリュームを追加します。それだけです。

#3. Microsoft Entra IDによるSSO

大半の中小企業はMicrosoft 365を利用しています。チャットボットの認証をEntra ID（旧Azure AD）に接続すると、管理元を失ったアカウントをなくせるうえ、退職した従業員のアクセス権がその日のうちに失われることを保証できます。Open WebUIは、Microsoftを使ったOIDC認証に標準対応しています。

1. 01
   アプリ登録の作成

   Entra IDポータルで、App registrations → New registrationを選択します。名前：「Chatbot IA Interne」。Redirect URI：https://chatbot.votreboite.local/oauth/microsoft/callback（種類はWeb）。
2. 02
   認証情報を取得する

   Application (client) ID と Directory (tenant) ID を記録してください。Certificates & secrets で、有効期限を24か月に設定した Client secret を生成し、すぐに記録してください（一度表示された後は、二度と表示されません）。
3. 03
   権限を設定する

   API permissions → Microsoft Graph → Delegated：openid、profile、email、User.Read。委任フローなので、Application permissionsは不要です。
4. 04
   アクセスを制限する

   Enterprise applications → 使用するアプリ → Properties → Assignment required = Yes。次に、Users and groupsで「全従業員」グループまたは試験導入用のグループを追加してください。この手順を行わないと、テナント内のどのアカウントでもログインできます。
5. 05
   Open WebUIに組み込む

   docker-composeの.envファイルにCLIENT_ID、CLIENT_SECRET、TENANT_IDをコピーしてください。再起動してください。ログインページに「Sign in with Microsoft」ボタンが表示されます。

#4. 4週間のデプロイ計画

このスケジュールは、社内の技術担当者（情報システム責任者〈DSI〉、ITマネージャー、または委託先）が業務時間の約50%をプロジェクトに充てることを前提としています。中小企業であれば、それ以上の時間を割く必要はありません。

#1週目 — ハードウェアとインストール

J1-J2

機材の発注（ワークステーション、1500 VAの無停電電源装置、未設置であればマネージドスイッチ）。

J3-J4

機材の受け取り、必要に応じた組み立て、Ubuntu Server LTS 24.04、NVIDIAドライバー、DockerとNVIDIA Container Toolkitのインストール。

J5

Docker イメージを取得し、初めての ollama pull mistral-small を実行して、CLI で直接チャットをテストします。トークンが出力されるはずです。

#第2週 — スタックと統合

J6-J7

docker-compose up, configuration Open WebUI (admin, paramètres généraux, branding interne).

J8-J9

Entra IDのSSO設定、3つの試験用アカウントでのテスト、ログインとログアウトのフローの検証。

J10

Traefikリバースプロキシに、自分のPKIによる内部証明書、またはドメインが公開されている場合はLet's Encrypt DNS-01による証明書を設定する。LAN内の2〜3台の端末からテストする。

#3週目 — RAGと試験運用

J11-J12

関連性の高い社内文書を50〜200件選ぶ（手順書、FAQ、営業資料）。Open WebUIまたはPythonスクリプトを使ってQdrantにインデックスを作成する。

J13-J14

中小企業のトーンに合わせたシステムプロンプト：トーン、許可されたテーマ、拒否すべきテーマ（人事関連、給与など）を設定します。3つのパイロットに対してテストを実施します。

J15

各部門を代表する従業員 5〜8 人の試験グループに利用を開放（営業 1 人、人事 1 人、経理 1 人、業務運用担当 1 人など）。体系的なフィードバックを収集。

#第4週 — 研修と切り替え

J16-J17

パイロットフィードバックに基づく調整（システムプロンプト、RAGドキュメント、温度パラメータ）

J18

1時間30分の集合研修：デモ、職種別の活用例、利用ルール、チャットに入力してはいけない情報（健康データ、識別情報など）。

J19

Entra ID グループを通じて、全従業員に段階的に利用を開放します。社内告知を行います。

J20

モニタリングの設定（ワークステーションではGlancesまたはNetdata、会話ログの集計で求められるトピックを特定）。

#5. 研修と変革の推進

利用者向けの研修なしで社内チャットボットを導入すると、投資の70％が無駄になります。従業員は何を質問すればよいかわからず、一般向けのChatGPTと頭の中で比較し、2回試しただけで「こちらのほうが劣っている」と結論づけてしまいます。

フォーマット

10〜15人ずつで行う、1時間30分のグループセッション。スライド説明に1時間も費やすのではなく、20分のデモ＋参加者が実際に扱っている課題での1時間の実習。

職種別の活用例

業務ごと（人事、営業、経理、業務運営、経営）に、具体的なプロンプトを3つ用意してください。利用者はそれをコピーして自分の用途に合わせて調整します。それこそが狙いです。

利用上のルール

貼り付けてもよい情報（社内の文章、下書き、すでに公開されているデータ）と、貼り付けてはいけない情報（健康情報、有罪判決に関する情報、個人名に紐づく銀行情報、技術的な識別情報）を明確に掲示してください。

担当者

各部署に AI の相談窓口となる担当者を1名指名してください。その担当者が部署内で効果的な活用方法を広め、RAG に不足している知識を報告します。

30日後のフォローアップ

利用状況を測定してください。ツールを使っていない部署があるなら、それは一つの兆候です。その部署にとってわかりやすい用途がないか、研修の内容が定着していない可能性があります。

#6. RGPDおよびAI Actへの適合性

システムがオンプレミスであることで、法令遵守への対応は大幅に簡素化されますが、不要になるわけではありません。GDPRの義務はデータ処理に適用されるものであり、その処理が行われる場所によって決まるものではありません。

データ処理活動の記録簿

社内チャットボットの処理記録を追加してください。目的：文章作成支援と文書検索。法的根拠：雇用主の正当な利益。処理するデータ：会話内容、SSO識別子。

保管期間

明確な方針を定めてください。ユーザーごとの会話履歴は90日間保存し、それを過ぎたものは自動削除します。この方針を利用規程に明記してください。

従業員への周知

IT利用規程とCSE/CSE向けの説明資料を更新する。会話が保存され、インシデント発生時には技術管理者がアクセスできることを明記してください。

AI法

生産性向上を支援する社内チャットボットは、「限定リスク」のカテゴリ（第50条）に該当します。主な義務は、AIと対話していることをユーザーに知らせることです。Open WebUIのインターフェースは、デフォルトでこの通知を行います。

技術的セキュリティ

Open WebUIデータベースの暗号化バックアップ、管理者アクセスのログ記録、Entra IDアカウントでのMFAの必須化、Dockerイメージの毎月の更新。

#7. ROI：誇張のない計算

従業員30人の中小企業が、プロファイルAで5,000ユーロをかけて導入するケースを考えてみましょう。対象期間は3年間です。

代替案としてSaaSを利用した場合の費用

30 × 25 € × 12ヶ月 × 3年 = 27,000 € (ChatGPT Team).

内部コスト

ワークステーション 5,000 € + 電気代 年間約200 € + 初年度に設置人件費5人日（約3,500 €）+ 年間メンテナンス人件費2人日（年間約1,400 € × 2年）= 3年間で約11,500 €。

直接的な純コスト削減額

~15,500€（3年分）で、2年目以降は年間約5,200€になります

間接的な利点

データ漏洩リスクの低減（漏洩を1件防ぐだけでもプロジェクト費用を十分に賄える、という形で金額に換算できます）、GDPR（一般データ保護規則）への対応の容易化、SaaSの値上げに左右されないこと。

生産性の向上

慎重な見積もり：ユーザー一人あたり、営業日一日あたり 15 分の節約。時給 35 €（諸経費込み）で 220 日計算すると、30 名で年間約 38,500 € になります。この数値は実際の導入率に大きく依存するため、ビジネスケースでは慎重な判断が必要です。

#さらに詳しく

このガイドで基盤を整えます。その後の自然な発展方向は3つあります。社内文書を対象とした本格的なRAGを追加してチャットボットが社内の手順を把握できるようにすること、イントラネット上の複数ユーザー向けデプロイのセキュリティを強化すること、そして資料をきちんとまとめてGDPRへの準拠を文書化することです。

価格は変動が激しいため、当サイトでは毎週月曜日と木曜日に、ローカルAI向けグラフィックカードの最低価格とVRAM 1 GBあたりの価格を確認しています。

• ローカル AI 向けグラフィックカードの価格（週2回更新）