生成AIの情報漏洩はなぜ起きる？自治体で広がる「シャドーAI」のリスクと対策

企業や団体からの情報漏洩のニュースが、ここ最近相次いでいます。不正アクセスによる大規模な漏洩だけでなく、メールの誤送信や資料の紛失など、日々の業務の中で起きるものも少なくありません。
こうした中で、新しい漏洩の入口として注目されているのが「生成AI」です。文章の作成や要約に便利な一方、使い方を誤ると、入力した情報が思いがけない形で外部に渡るおそれがあります。
特に注意したいのが、組織が認めていない生成AIを、職員が個人の判断で業務に使う「シャドーAI」です。住民の個人情報や内部資料を多く扱う自治体にとって、決して他人事ではありません。
本記事では、生成AIによる情報漏洩が起きる仕組みと、自治体で整えておきたい利用ルール、住民向けに生成AIを使うときに確認したいポイントを解説します。

相次ぐ情報漏洩と生成AI 自治体にも広がる新しいリスク

情報漏洩の事件が続く背景

東京商工リサーチの調査によると、2025年に上場企業とその子会社で明らかになった個人情報の漏洩・紛失事故は180件、漏洩・紛失した人数は3,063万人分にのぼりました。人数は前年からほぼ倍に増えています。
原因を見ると、最も多いのは「ウイルス感染・不正アクセス」ですが、「誤表示・誤送信」や「紛失・誤廃棄」など、人の操作や管理のミスによるものも全体の3割ほどを占めています。

出典：東京商工リサーチ「2025年 上場企業の個人情報漏えい・紛失事故」調査（2026年2月公表）

外部からの攻撃だけでなく、職員や社員のちょっとした操作でも情報は漏れてしまいます。生成AIは、この「人の操作」によるリスクを新しく増やすものです。チャットの入力欄に貼り付けた文章が、そのまま外部のサービスへ送られるからです。

自治体でも生成AIの導入が進んでいる

総務省の調査では、2024年12月末の時点で、都道府県の87.2%、指定都市の90.0%が生成AIを導入済みです。一方、その他の市区町村は29.9%にとどまっています。

出典：総務省「自治体における生成AI導入状況」（2024年12月31日時点）

市区町村では、実証中や導入を予定しているところも含めると約半数が取り組みを始めており、これから利用が一気に広がる段階です。同じ調査では、導入の課題として「機密情報の流出への懸念」も多く挙げられています。
正式な導入の前後は、利用ルールが現場まで行き渡っていない時期でもあります。便利さが先に知られ、ルールが後から追いかける。このすき間で起きやすいのが、次に紹介する「シャドーAI」です。

「シャドーAI」とは 職員のルール外の生成AI利用で起きること

シャドーAIの意味

シャドーAIとは、組織が把握・許可していない生成AIを、職員や社員が業務で使うことです。以前から、許可されていないクラウドサービスやアプリを使う「シャドーIT」が問題になってきましたが、その生成AI版といえます。
例えば、会議の記録の要約や住民向け文書の下書きを、個人のスマートフォンや自宅のパソコンにある無料の生成AIで作るケースです。本人に悪気はなく、「早く仕事を終わらせたい」という前向きな理由で使っていることがほとんどです。だからこそ、周りが気づかないうちに広がりやすいのが特徴です。

会社が導入していなくても個人で使う人は14.4%

スマートキャンプ株式会社（BOXIL）が全国の企業に勤める9,734人に行った調査では、「会社は生成AIを導入していないが、個人で無料版などを利用している」と答えた人が14.4%いました。また、業務で生成AIを使っている人のうち31.9%は、勤務先に特別なルールがなく、個人の判断に任されていると答えています。
この調査は企業で働く人を対象にしたものですが、自治体でも同じことが起きる可能性は十分にあります。「導入していないから大丈夫」ではなく、「導入していない職場ほど、個人での利用が見えにくくなっている」と考えておくのが安全です。

生成AIに入力した情報はどこへ行くのか

無料で使える生成AIの多くは、インターネット上のサービスです。入力した文章はサービス提供者のサーバーに送られて処理されます。サービスや設定によっては、入力内容が保存されたり、AIの性能を上げるための学習に使われたりすることもあります。
一度送ってしまった情報は、職員の側から取り消すことができません。どこに保存され、誰が見られる状態にあるのかも、組織からは見えなくなります。これが、シャドーAIが情報漏洩につながる一番の理由です。

生成AIの情報漏洩につながる3つのパターン

生成AIによる情報漏洩やトラブルは、主に次の3つのパターンで起こります。

個人情報や内部資料をそのまま入力してしまう

最も起こりやすいのが、文章の要約や言い換えを頼むときに、元の資料をそのまま貼り付けてしまうケースです。住民からの相談記録、申請書の内容、まだ公表していない計画の資料などには、個人情報や機密情報が含まれていることがあります。
「名前だけ消せば大丈夫」と思っても、住所や家族構成、相談の内容から個人が分かってしまうこともあります。

入力内容が学習に使われる設定のまま使ってしまう

生成AIのサービスには、入力内容を学習に使うかどうかを選べるものがあります。初期設定のままでは学習に使われる場合もあるため、設定を確認しないまま使うと、入力した情報がサービス側に残り続けるおそれがあります。
個人で使っている無料版では、組織として設定を管理することもできません。

AIの回答を確認せずに外へ出してしまう

生成AIは、事実と異なる内容をもっともらしく答えることがあります。回答をそのまま住民向けの案内や公開文書に使うと、誤った情報を広めてしまうことになります。情報が「漏れる」のとは逆の方向ですが、自治体の信頼に関わるという点では、同じくらい大きなリスクです。

禁止だけでは防げない 自治体が整えたい生成AIの利用ルール

リスクがあるなら全面的に禁止すればよい、と考える方もいるかもしれません。しかし先ほどの調査のとおり、ルールがない職場や、使える生成AIがない職場ほど、個人での利用は見えないところで広がります。大切なのは「禁止」ではなく、「安全に使える道を用意する」ことです。

国のガイドラインを確認する

デジタル庁は2025年5月、政府職員向けに「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」を策定しました。このガイドラインには、地方公共団体でも必要に応じて参考にすることが期待されると書かれています。
ガイドラインは、利用規約に同意するだけで使えるクラウド型の生成AIについて、原則として機密情報を扱えないとしています。また、機密情報や個人情報が生成AIに保存・学習される使い方は、最もリスクが高いものに位置づけられています。
自治体で利用ルールを作るときは、こうした国の考え方と、それぞれの自治体の情報セキュリティポリシーの両方に沿っているかを確認しましょう。

入力してよい情報・いけない情報を決める

ルールの中でも特に大切なのが、生成AIに入力してよい情報と、いけない情報の線引きです。職員が迷わず判断できるよう、具体的な例を挙げて示すのが効果的です。

判断に迷うときは「入力しない」を原則にし、あわせて相談先（情報政策担当課など）を決めておくと、職員も安心して使えます。

職員が安心して使える環境を用意する

ルールを作っても、業務で使える生成AIがなければ、職員は結局、個人のサービスに頼ってしまいます。入力内容が学習に使われない法人向けのサービスなど、組織として管理できる生成AIを用意することが、シャドーAIを減らす一番の近道です。
あわせて、研修や利用例の共有を行い、「何に使えて、何に使ってはいけないか」を職員全体で理解しておくことも大切です。

住民向けに生成AIを使うときに確認したい「情報の扱い」

生成AIの活用は、職員の内部業務だけでなく、HPでの住民からの問い合わせ対応などにも広がっています。住民が直接使うサービスでは、住民が入力する内容の扱いも含めて確認しておく必要があります。

導入前に確認したい5つのポイント

住民向けの生成AIサービスを選ぶときは、次のポイントを事業者に確認しておきましょう。

これらは、導入後に住民や議会から質問を受けたときに説明できるようにしておくためにも大切な項目です。

公開情報だけで答える「個人情報を扱わない」生成AIチャットボット

当社の生成AI検索チャットボット「amie-RAG」は、自治体HPの公開情報だけを検索して、住民の質問に答える仕組みです。非公開の内部システムやデータベースには接続しません。情報の扱いについては、次のような設計にしています。

・検索・回答に使うのはHPの公開情報のみ。誰でも閲覧できる公開ページの範囲内で答えます。
・個人情報を自動でマスキング。住民が名前やメールアドレスなどを入力した場合、保存時と生成AIへの送信時に、該当する部分を自動で伏せます。
・データは国内で保管。国内（AWS）でデータを保管し、お客様ごとにデータベースを分けて管理しています。
・入力内容を学習に使わない。生成AIには質問文と検索結果の一部だけを送り、ほかの利用者のためや再学習には使いません。
・ISO27001を取得。第三者機関の審査のもとで、情報セキュリティを管理・運用しています。

HPを更新すれば回答にもすぐ反映されるため、学習用のデータを準備する手間もかかりません。2週間の無料トライアルもご用意していますので、情報の扱いも含めてお気軽にご相談ください。

まとめ

情報漏洩の事件が相次ぐ中、生成AIは新しい漏洩の入口になりつつあります。特に、組織が把握していない「シャドーAI」は、仕事を早く進めたいという前向きな気持ちから広がるため、禁止するだけでは防ぎきれません。

・入力してよい情報・いけない情報をはっきりさせる
・国のガイドラインと自団体のポリシーに沿った利用ルールを作る
・職員が安心して使える生成AIの環境を用意する

住民向けに生成AIを使う場合も、データの保存場所や学習への利用、個人情報の扱いを導入前に確認しておくことが大切です。安全な使い方を整えて、生成AIを住民サービスと業務の改善に役立てていきましょう。