自治体および地方公共団体向けのローカルAI territoriales

#地方自治体でローカルAIを導入する理由

自治体の課題は、AIを利用できるかどうかではありません。職員はすでに、個人のスマートフォンのChatGPT、オフィスソフトのCopilot、メッセージサービス内のアシスタントといったAIを使えます。問題は、こうした利用がルールのないまま行われ、住民のデータが、自治体ではホスティングも保存も再利用も管理できないサービスにコピーされていることです。DPO（データ保護責任者。2018年以降、すべての公的機関に設置が義務付けられています）は、こうした利用の実態をまったく把握できていません。

セルフホスト型のLLMでは、この仕組みが逆になります。モデルは自治体の施設内、または普段利用しているホスティング事業者のマシンで動作します。テキストがネットワークの外に出ることはありません。データ管理者は引き続き自治体であり、追加の処理委託先との契約も、欧州連合外へのデータ移転も、交渉に応じない巨大企業との契約条項の交渉も必要ありません。また、費用は一度きりのハードウェア投資であり、利用が増えるにつれて膨らむ職員一人当たりのサブスクリプション料金ではありません。

これは万能の解決策ではありません。80億〜300億パラメータのローカルモデルは、自由度の高いタスクでは、最高水準のプロプライエタリモデルほど優れた能力を発揮しません。しかし、市役所の業務がそれほど自由度の高いものであることはまれです。書簡の言い換え、議決文書の構成整理、40ページの報告書の要約、墓地の規則に関する質問への回答などが中心です。こうした範囲の明確なタスクなら、良いプロンプトと適切な文書があれば、Mistral SmallやQwen3 14B程度の規模のモデルで十分に対応できます。

#市役所で役立つ活用例

自治体のAIプロジェクトで失敗する一番の方法は、市のウェブサイトですべてに答える「市民向けアシスタント」を約束することです。成功する一番の方法は、職員の時間を取られがちで、誤りも見つけやすい反復的な内部業務から始めることです。以下に、ローカルモデルでうまく対応できる業務を紹介します。

住民宛ての文書

就学に関する特例申請への回答、苦情の受領通知、決定通知などです。担当職員が事実関係と回答の方向性を示し、モデルが行政文書に適した文体で文章を作成し、担当職員が読み直して署名します。効果を測れるのは、重要度の低い文書で、こうした文書が大半を占めます。

議決案

業務連絡文や見積書から、構成の整った議決案（根拠法令、議決理由、決定事項）を作成する。既存の議決文書を2〜3件、ひな形として与えれば、モデルは形式によく従います。内容については、引き続き事務局と法務担当者が責任を持ちます。

レポートおよび要約

調査報告書の要約、委員会の議事録から決定事項を抽出、300件の公聴意見からの調査結果の要約を作成。32,000トークンのコンテキストを持つモデルは、数百ページのドキュメントを処理できます。

窓口対応と電話交換

受付担当者が迅速かつ正確に回答できるようにする：ごみ持ち込み施設の営業時間、出生証明書の取得に必要な書類、授業前後の児童向けサービスの料金など。これを実現するのが、モデルの記憶ではなく、自治体の公式文書に基づくRAG（検索拡張生成）です。

公共調達

CCTPをまず読み直して不整合を見つけ、分析基準の表現を見直し、入札提案の分析報告書の作成を支援します。モデルは何も決定せず、読む作業を速めます。

翻訳およびアクセシビリティ

フランス語を話さない住民向けに案内文を翻訳する、手紙をわかりやすい言葉で書き直す（FALC：読みやすく理解しやすい表現）。最近のモデルは、フランス語と主要なヨーロッパ言語で安定した性能を発揮しています。

最初の段階では、除外すべきケースが2つあります。1つ目は、個人に関するあらゆる自動化された意思決定（社会扶助の給付決定、家族係数〈quotient familial〉に基づく料金計算）です。フランスの公衆と行政の関係に関する法典では、アルゴリズムによる処理について利用者に知らせ、そのルールを説明することが義務付けられています。また、EUのAI規則では、生活に不可欠な公的給付を受けられるかどうかの評価を、高リスクシステムに分類しています。2つ目は、市のウェブサイトで一般公開する対話型エージェントです。これには、テスト、監督、逸脱への対処といった面での成熟度が求められますが、最初のプロジェクトでその水準に達している自治体はほとんどありません。

#米国のクラウドが地方自治体にとって問題になる理由

この主張の根拠は思想ではなく、法律にあります。地方自治体は、GDPR上のデータ管理者に当たります。オンラインAIサービスを利用すると、サービス提供者はデータ処理者となり、第28条に準拠した契約で両者の関係を定める必要があります。契約には、処理の目的、期間、安全対策、再委託先、契約終了時のデータの取り扱いを盛り込みます。大手の一般消費者向けサービスでは、この契約は地方自治体が内容を変更できない定型契約です。また、利用条件ではやり取りの保存が認められていることが多く、プランによってはサービス改善への利用も認められています。

EU域外へのデータ移転

アメリカにホスティングする場合、第三国へのデータ転送に該当します。現在は、EU-アメリカデータ保護枠（2023年7月の適切性決定）に基づいています。しかし、この枠はすでに欧州の裁判所で挑戦されています。Schrems IIの判決（2020年、プライバシーシールドの無効化）は、この基盤が突然消える可能性があることを示しており、その場合、データ処理の正当性を別の根拠で証明する必要があります。

CLOUD Act

2018年の米国法により、米国当局は米国法の適用を受けるサービス提供者に対し、保存場所を問わずデータの引き渡しを要求できます。米国のサービス提供者が運営する欧州のデータセンターにデータを置いても、この要求から保護されるわけではありません。ANSSIのSecNumCloud基準が排除しようとしているのは、まさにこの状況です。

クラウド中心の原則

2021年にフランス首相が出し、2023年に更新された通達は、国の行政機関に対し、機微なデータをSecNumCloud認定を受け、域外適用される法令の影響を受けないサービスでホスティングすることを義務付けています。地方自治体には直接適用されませんが、選挙で選ばれた公職者やDPOが参照できる要求水準を示しており、国の地方行政機関である県地方長官庁も、自治体とのやり取りでこの通達を参考にしています。

影響評価

自治体規模で生成AIを使って住民のデータを処理する場合は、データ保護影響評価（GDPR第35条）が強く推奨されるケースに該当します。データの移転も処理の委託先もなければ、評価書の作成ははるかに簡単になります。

秘密情報および機密データ

社会福祉サービス（CCAS）、市警察および民法上の登記機関は、健康データ、違法行為、家庭関係に関するデータを扱っています。これらのカテゴリは、多くの一般向けAIサービスの利用規約に含まれていないため、第三者にそのデータを送信することは、CNILに通知義務があるデータの取り扱い違反となります。

セルフホスティングでは、これらの問題の大半は仕組み上なくなります。ただし、果たすべき義務は確かに残ります。新しいツールの利用を反映して個人データの処理記録を最新に保ち、会話の保存期間を定め、職員に周知し、利用規程で使い方を定める必要があります。しかし、これらは自治体が他のソフトウェアについてもすでに対応方法を心得ている義務です。

#前提条件とガバナンス

ハードウェアを購入する前に、ターミナルの前ではなく会議で決めておくべきことが3つあります。

プロジェクトを担当しているのは誰ですか

業務側の推進責任者（行政サービスの統括責任者、事務局長）と技術側の担当者（IT責任者、自治体のIT委託先、または自治体間組織の共同ITサービス）による二者体制です。業務側の推進責任者がいなければ、プロジェクトはIT部門のおもちゃのままです。

サーバーはどこで動作していますか？

自治体内、自治体間連合や県のデータセンター、またはフランスのホスティング事業者のもとで稼働させます。このガイドは、いずれの構成にも対応しています。小規模なコミューンでは、コミューン共同体の共同IT部門を利用するのが最善の選択肢となることがよくあります。1台のサーバーを10の役場で共有する形です。

どのデータが入るか

RAGに取り込む文書（規則、公表された議決、内部手順）と、取り込まないもの（CCASの個別案件の記録、自治体警察のデータ）を事前に決めること。この一覧が、個人データの処理活動記録簿への記載の中核となります。

スキル

インストールと運用には、Linux と Docker に慣れた技術者がいれば十分です。RAG には、もう少し体系的な作業（文書の準備）が必要ですが、コードを増やす必要はありません。

ネットワーク

サーバーは、職員の端末から内部ネットワークまたは VPN 経由で接続できる必要があり、インターネットに直接公開してはいけません。アクセス範囲がローカルネットワークを超える場合は、最低限、認証付きのリバースプロキシが必要です。

購入については、税抜40,000ユーロ未満のマシンは、事前の公告や競争手続きを必要としない公共調達に該当します。このガイドのすべての構成がこの範囲に収まります。それでも、比較用の見積もりを依頼し、必要性を説明する資料を調達書類に含める必要があります。また、以下で紹介する構成の大半は、UGAPのカタログから、またはその自治体が普段利用しているPC組立業者から購入できます。

#サーバーの規模と予算を見積もる

すべてを左右するのは、提供したいモデルのサイズと、それに応じて必要になるVRAMをどれだけ利用できるかです。最も一般的な量子化方式であるQ4_K_Mでは、70億〜80億パラメータのモデルが約5 GB、14Bが約9 GB、24B〜32Bが15〜19 GB、70Bが約40 GBを占有します。これにコンテキスト用のメモリ（読み込み中の文書）を加える必要があり、長いテキストでは使用量が急増します。同時に利用する職員の数は、想像するほど大きな要因ではありません。市役所で10人の職員が利用できる環境を整えても、同時に発生するリクエストが2〜3件を超えることはまれです。

3つの構成レベルで、ほぼすべての自治体に対応できます。以下の価格帯はおおよその目安であり、見積もりで確認する必要があります。販売業者、メモリ、ストレージ、保証によって変動します。

段階1：人口5,000人未満の市町村

VRAMが12GBまたは16GBのグラフィックスカード（RTX 4070、RTX 4080または同等品）、32GBのRAM、1TBのSSDを搭載したワークステーションまたはミニサーバー。対象モデル：Qwen3 8Bまたは14B、Gemma 3 12B。ハードウェア予算の目安は税抜1,500〜2,500ユーロ。職員5〜10人での利用、文章作成と要約、自治体の規則を対象とするRAG。

第2段階：中規模都市または自治体間の広域連携組織

24 GBのカード（RTX 4090または同等のプロフェッショナル版）を搭載したワークステーション、64 GBのRAM、2 TBのSSD、または64 GBの統一メモリを搭載したMac Studio。対象モデル：Mistral Small 24B、Q4のQwen3 32B、gpt-oss 20B。参考予算は税抜3,500ユーロから6,000ユーロ。20名から50名のエージェント、本ガイドのすべてのユースケースに対応。

段階3：大規模な地方自治体、または県単位の共同サービス

48 GB以上のプロ向けカードを1枚または2枚搭載し、冗長電源を備え、既存のサーバー室に組み込むラックマウントサーバー。対象モデル：Q4の70B、または並列で提供する複数の特化型モデル。予算の目安は税別10,000ユーロからで、メーカーサポート付きでは税別15,000〜25,000ユーロになることが多いです。数百人の職員、複数の加盟自治体向け。

これらの金額に加え、電力コスト（コンシューマー向けカードを搭載したワークステーションは負荷時に300Wから500Wを消費し、アイドル時は非常に少ない）、技術責任者またはベンダーによる数日間のインストールと設定、そして何よりエージェントの研修時間がプロジェクトの真のコストとなります。比較として、50名のエージェント向けのプロプライエタリAIアシスタントのサブスクリプションは、通常初年度で第2段階の価格を超え、毎年更新されます。

#ステップバイステップのデプロイメント

以下の手順は、NVIDIA製のグラフィックスカードを搭載し、ドライバーをインストール済みのLinuxサーバー（UbuntuまたはDebian）を前提としています。ソフトウェア構成は、モデルの提供にOllama、ユーザーアカウント、履歴、組み込みRAGを備えたインターフェースにOpen WebUIを使用します。

1. 01
   Ollamaをインストールし、ネットワーク経由でアクセスできるようにする

   公式スクリプトは Ollama を systemd サービスとしてインストールします。デフォルトでは、同じマシンからの接続のみを受け付けます（http://localhost:11434）。コンテナ内にインストールしたインターフェースから接続できるように、Ollama をすべてのネットワークインターフェースで待ち受けるように設定します。その際、サーバーのファイアウォールが外部からポート 11434 へのアクセスをブロックしていることを確認してください。
2. 02
   モデルを一つまたは二つダウンロードする

   まずは中規模のモデルと、小型で高速なモデルから始めてください。前者は文章作成と要約に、後者は短いタスクと受付対応に使います。ダウンロードには数ギガバイトの通信量が発生するため、役所のインターネット回線が低速な場合は、開庁時間外に行う予定を立ててください。
3. 03
   Open WebUIをインストールする

   Open WebUIは1つのDockerコンテナにインストールし、Ollamaに接続します。最初に作成したアカウントが管理者になります。その後、誰でも自由に登録できる設定を無効にし、職員のアカウントを手動またはディレクトリ経由で作成してください（管理設定ではLDAPまたはSSOがサポートされています）。
4. 04
   文書データベースに資料を追加する

   Open WebUIのワークスペースで、テーマ別（規則、議決、人事手続き）にコレクションを作成し、PDFやWord文書をアップロードしてください。内容が整理され、最新で、画像としてスキャンされていない文書を優先してください。その後、期待する役割を記述したシステムプロンプトを設定し、各コレクションをカスタムモデルに関連付けてください。
5. 05
   職務ごとのシステムプロンプトを作成する

   自治体の文書作成ガイドラインを組み込んだカスタムモデル「行政書簡」、所定の構成と2つの例を組み込んだ「決議」、実用情報のコレクションに接続した「受付」を用意します。これらのモデルは、職員がすぐに使えるツールとして表示されるため、職員はプロンプトの作り方を知る必要がありません。
6. 06
   セキュリティの確保とバックアップ

   Open WebUIの前段にTLS証明書を備えたリバースプロキシを配置し、内部ネットワークまたはVPNからのアクセスに限定します。Open WebUIのデータボリューム（アカウント、会話、文書）と設定を毎日バックアップします。このツールを個人データの処理活動記録簿に登録し、会話の保存期間を明記したうえで、その期間に合わせて削除処理を設定してください。

# Installation d'Ollama (script officiel)
curl -fsSL https://ollama.com/install.sh | sh

# Écouter sur le réseau pour le conteneur Open WebUI
sudo systemctl edit ollama.service
# Ajouter dans le fichier ouvert :
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0"
# Environment="OLLAMA_KEEP_ALIVE=24h"
sudo systemctl daemon-reload
sudo systemctl restart ollama

# Modèles de départ (Q4_K_M par défaut)
ollama pull qwen3:14b
ollama pull mistral-small3.2
ollama pull qwen3:8b

# Vérification
ollama list
curl http://localhost:11434/api/tags

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

# L'interface est ensuite accessible sur http://<ip-du-serveur>:3000
# Premier compte créé = administrateur
# Ensuite : Admin > Settings > désactiver « Enable New Sign Ups »

ポート11434をネットワーク全体に開放しないよう、ファイアウォール（ufwまたはnftables）で、サーバー自身とコンテナからのみアクセスできるように制限してください。当サイトのOllamaサーバーのセキュリティ対策ガイドでは、この設定とリバースプロキシの導入について詳しく解説しています。自治体がすでにProxmoxハイパーバイザーを導入している場合は、グラフィックカードをパススルーする仮想マシンを使うと、このサーバーを既存のインフラにうまく組み込めます。

#職員を置き換えずに支援する

部署でAIの導入を告げると、最初に出てくる反応は、自分たちの仕事が置き換えられるのではないかという不安です。その不安はもっともで、スローガンで応えても効果はありません。効果があるのは、ツールが何をし、何をしないのかを具体的に説明し、職員の実際の仕事でそれを示すことです。

モデルが提案し、職員が判断する

モデルが生成した文書は、人間による校閲と署名を経ずに送付されることはありません。このルールは利用方針に明記されており、各カスタムモデルのシステムプロンプトも、回答の末尾でこのルールを再提示するよう指示しています。これにより、自治体（責任の面）と職員（引き続き文書の作成者であること）が守られます。

実際の事例を使って研修する

部署ごとに2時間、その週の実際の文書や案件資料を使って研修を行います。一般的な例は使いません。目標は、各職員が、ツールで時間を節約できる場面を3つ、使ってはいけない場面を2つ把握して研修を終えることです。

ハルシネーションについて説明する

ローカルモデルは、正しい回答と同じくらい自信満々に、法的な参照情報、法典の条文、数値をでっち上げます。職員は、モデルが生成した法的な参照情報はすべてLégifranceで確認する必要があること、そしてRAGは自治体の文書に関してこのリスクを軽減するものの、なくすわけではないことを理解しておく必要があります。

使用を可視化する

内部ルールとして、作業用文書には「アシスタントの助けを借りて作成し、[agent]が校閲」と記載し、公式文書には決して記載しません。これにより、利用への過度な不安を和らげ、確認をしやすくします。

職員の代表に参加してもらう

AIツールの導入は、仕事の進め方や体制に影響します。導入前に地方公共団体の労使協議委員会（CST）へ説明しておけば、委員会が噂で初めて知り、プロジェクトをめぐる対立に発展する事態を避けられます。

監視せずに測定する

アクティブユーザー数と定性的なフィードバックを把握し、個々の職員の生産性は追跡しないでください。会話ログはトラブルシューティングとコンプライアンスのために使うもので、職員の評価に使うものではありません。そのことを利用規程に明記する必要があります。

このように進めた自治体では、ツールの利用は問題なく定着しています。職員は、文書作成の面倒な部分を省いてくれるツールを喜んで使います。注意すべき点は別にあります。一部の職員はモデルに頼りすぎて、読み直さなくなります。最初の数週間は職員同士で互いの文書を読み直し、その後も確認されたハルシネーションについて定期的に注意を促すことが、最も効果的な防止策です。

#落とし穴とトラブルシューティング

遅い応答またはスムーズでない応答

モデルがVRAMに収まりきらず、一部がCPU上で実行されています。ollama psでGPUとCPUへの割り当てを確認してください。より小さいモデルを選ぶか、量子化をさらに強めるか、Open WebUIが要求するコンテキストサイズを小さくしてください。

RAGの回答が的外れ

多くの場合、ドキュメントは適切に分割されていません（スキャンされた PDF、表、複雑なレイアウト）。登録前にクリーンなテキストに変換し、古い規則のバージョンを削除し、回答が既知の 10 個の質問で各コレクションをテストしてください。

モデルが地方自治体の専門用語を知らない

モデルは、皆さんの業務の文脈でCCAS、DETR、DSPが何を指すのかを理解していません。システムプロンプトか専用のコレクションに、その自治体の用語集を追加してください。

職員が福祉関連の個人記録を会話に貼り付けた

自治体の外部への情報漏えいではありませんが、許可された範囲外での処理です。会話を削除し、利用規程を改めて周知してください。必要に応じて、Open WebUIでユーザーグループごとにモデルへのアクセス権を調整してください。

すべてを壊してしまうアップデート

バージョンを固定してください。対象はOpen WebUIのイメージタグ、Ollamaのバージョン、モデルの正確な一覧です。職員用サーバーに変更を加える前に、別のマシンか仮想マシンでアップデートをテストしてください。

サーバーは外部からアクセス可能です

ポート転送やファイアウォールのルールによって、ポート11434やOpen WebUIのポートが市役所のパブリックIPアドレスで外部に公開されていないか、定期的に確認してください。インターネット上では、外部からアクセスできるOllamaサーバーが常時数千台確認されています。

#さらに詳しく

本ガイドでは、全体の枠組みと基本的な導入方法を説明します。次に扱う各構成要素については、本サイトの以下のガイドで詳しく説明しています。

イントラネット上でチーム向けAIチャットボットをデプロイする

Open WebUIをマルチユーザー環境に導入するための、Nginxリバースプロキシ、認証、監視、会話のバックアップに関する詳細。

Ollamaサーバーのセキュリティ強化

サーバーの外部公開状況を確認し、認証と TLS を追加し、ネットワークのベストプラクティスを適用する。ローカルネットワーク外からのアクセスを許可する前に読んでおく。

ローカルLLMとGDPR：個人データに関する法令遵守

影響評価と台帳への登録を文書化するための包括的な法的枠組み（RGPD、EUのAI規則、CNILの勧告）。

Ollamaでコーディング不要のローカルRAG

ドキュメントをコレクションに追加すると何が起こるのかを理解し、窓口での回答の質を高めるために。

量子化の選択（Q4、Q5、Q8、FP16）

購入したサーバーのVRAMに応じて、Q4のより大きなモデルとQ8のより小さなモデルのどちらを選ぶか判断するため。