ChatGPT・生成AIで情報漏洩は起きる?漏れる経路と各社のデータの扱い、会社でできる対策
ChatGPTなどの生成AIを業務で使うと、どんな経路で情報が漏れうるのか。入力データの扱い(学習への利用・保存期間)を主要サービスの個人向け・法人向けで比べ、サービス側の不具合、共有・連携機能、アカウントの乗っ取りまで、経路ごとに会社でできる対策を整理します。
「ChatGPTに入力すると漏れる」は本当か
「ChatGPTに社内の情報を入れると漏れる」とよく言われます。心配されるのは、入力した情報がAIの学習に使われ、ほかの利用者への回答に出てくることです。この経路は、契約するプランや設定で大きく変わります。一方で、実際に公表された漏洩は、それ以外の経路でも起きています。
総務省の令和8年版情報通信白書では、生成AIの活用で懸念されるリスクとして「社内情報の漏洩などのセキュリティリスク」を挙げた日本企業が46.4%と最も多くなっています。ところが、リスク対策として「入力データを学習に使わせない仕組み」を導入している企業は19.9%にとどまります10。
生成AIからの情報漏洩は、次の4つの経路に分けて考えると、何をすればよいかが見えやすくなります。
| 経路 | 何が起きるか | 主な対策 |
|---|---|---|
| 1. 入力した情報の扱い | 入力内容がサービス側で保存・学習に使われる | 法人向けプラン、学習に使わない設定、入力ルール |
| 2. サービス側の不具合・設定ミス | 提供者のミスで他人に見える状態になる | 預ける情報を選ぶ、提供者の公表を追う |
| 3. 共有・連携機能 | 会話の共有リンクや連携先から外に出る | 共有機能の管理、連携先の審査 |
| 4. アカウントの乗っ取り | 盗まれたアカウントから履歴を見られる | 会社管理のアカウント、多要素認証 |
経路1:入力した情報がサービス側でどう扱われるか
生成AIサービスに入力した内容は、提供者のサーバーに送られて処理されます。そのうえで、次の点がプランや設定によって変わります。
- 学習への利用: 入力内容をAIの改善(学習)に使うか
- 保存期間: 会話の履歴をいつまで保存するか。履歴をオフにしても、一定期間は保存される場合がある
- 人による確認: 提供者側の担当者が内容を見ることがあるか
主要サービスの比較(2026年10月20日に各社の公式ページで確認)
| サービス | 個人向け | 法人向け |
|---|---|---|
| ChatGPT(OpenAI) | Free・Plus・Pro は、入力が学習に使われうる。設定(「データ管理」)で止められるが、止めた後も👍👎で評価した会話は学習に使われうる1 | Business・Enterprise・API は既定で学習に使わない。Business・Enterprise は管理者が保存期間を設定でき、削除した会話は30日以内に消去12 |
| Gemini(Google) | 個人のアカウントでは「アクティビティの保存」がオンだと学習を含むサービス改善に使われる。一部の会話は人のレビュアーが確認し、アカウントと切り離して最長3年保存。オフでも72時間は保存5 | Google Workspace の対象エディションでは、プロンプトを含むデータを許可なく学習に使わず、人によるレビューもしない4 |
| Microsoft Copilot | 個人のMicrosoftアカウントでは、2026年8月18日以降の新しいアプリはプロンプト・応答・ファイルを基礎モデルの学習に使わない13 | 職場・学校のアカウント(Entra ID)での利用には「エンタープライズ データ保護」が適用され、プロンプトと応答は基盤モデルの学習に使わない。ただし Web 検索に送られる問い合わせは別の扱い3 |
| Claude(Anthropic) | Free・Pro・Max は、学習への利用を利用者が選ぶ。許可した場合の保存は5年、許可しない場合は30日7 | Team・Enterprise・API は既定で学習に使わない。明示的なフィードバックをした会話は例外6 |
※ 各社のページは頻繁に更新されます。契約・設定の判断は、必ず最新の公式ページと契約書面で確認してください。Microsoft 365 Copilot は「Microsoft Copilot」に改称されています3。各サービスで学習を止める手順は学習させない設定の手順にまとめています。
ここから言えるのは、業務で使うなら、個人のアカウントではなく、会社が契約した法人向けのプランを使うのが出発点だということです。IPAも「情報セキュリティ10大脅威 2026」の解説書で、個人アカウントでの業務利用の制限と、入力データを学習対象から外す設定の徹底を対策に挙げています12。AI事業者ガイドラインも、機密情報を扱うときはエンタープライズ級のセキュリティ機能を持つ業務向けサービスを使うよう勧めています9。
法人向けプランでも残る論点
- 社外のサーバーに渡ること自体は変わらない: デジタル庁が政府機関向けに示した利用ルールのひな形は、規約への同意だけで使える不特定多数向けのクラウド型生成AIでは、原則として機密性の高い情報を扱わないとしています11。民間企業にそのまま当てはまるわけではありませんが、線引きの参考になります
- 個人情報: 個人情報保護委員会は、本人の同意なく個人データを入力し、それが応答の出力以外に使われる場合は法違反となる可能性があるとして、提供事業者が機械学習に使わないことなどを十分に確認するよう求めています8
- 契約上の制約: 取引先から秘密保持契約のもとで預かった情報は、契約が第三者への提供をどう定めているかを確認します
実際に起きたこと
社員が業務で生成AIに社内の情報を入力し、問題になった例が公表されています。生成AIへの入力による漏洩の事例
経路2:サービス側の不具合・設定ミス
利用者が正しく使っていても、提供者側の不具合や設定ミスで情報が見える状態になることがあります。AIサービスの不具合・設定ミスの事例
利用者にできることは限られますが、そもそも外部のサービスに預けない情報を決めておくことと、使っているサービスの障害・セキュリティの公表を追い、影響があれば社内で確認することが対策になります。
経路3:共有機能・連携機能
- 会話の共有リンク: 会話をURLで共有する機能では、リンクを知っている人なら誰でも見られる状態になります。リンクが外部に貼られれば、意図しない相手に読まれます
- カスタムAI・外部連携: 自作のAIに読み込ませたファイルや設定が、利用者の質問によって引き出されることがあります。外部サービスとの連携では、連携先にもデータが渡ります
- AIが読める社内データ: メールや社内文書を読めるAIアシスタントでは、プロンプトインジェクションによって情報を持ち出される危険があります。プロンプトインジェクションの解説
経路4:アカウントの乗っ取り
生成AIサービスのアカウントが盗まれると、過去の会話履歴を見られます。業務の相談を重ねたアカウントは、それ自体が情報のかたまりです。会社の管理下にあるアカウント(シングルサインオン、多要素認証、退職時の停止)で使うことが対策になります。
会社でできる対策
- 法人向けプランを契約し、個人アカウントでの業務利用をやめる(学習に使わない条件、管理機能、記録)
- 入力してよい情報・いけない情報を決める(下の例を参照)。社内ガイドラインの作り方
- アカウントを会社で管理する(シングルサインオン、多要素認証、退職時の停止)
- 共有・連携機能を管理する(共有リンクの可否、連携先の審査)
- 利用状況を把握する(会社が把握していないAIの利用=シャドーAIを減らす)
- サービスの公表を追う(障害・セキュリティの告知、利用条件の改定)
「入力してはいけない情報」の例
社内ルールを作るときの出発点として、一般に入力を避けるべきとされる情報の例です。実際の線引きは、契約しているプランの条件と、扱う情報の契約・法令上の制約によって変わります。
- 顧客・取引先・社員の個人情報(氏名と組み合わせた連絡先、マイナンバーなど)
- 取引先から秘密保持契約のもとで預かった情報
- 未公表の決算・人事・M&Aなどの経営情報
- パスワード、APIキー、システムの接続情報
- 製品の設計情報やソースコードのうち、外部に出せないもの
実際に起きた事例
事例集を見る-
RIZAP社員が個人利用の生成AIに特定保健指導の対象者データ(要配慮個人情報を含む)をアップロード
健康保険組合や自治体から特定保健指導を受託していたRIZAPで、社員がデータ集計作業中に、会社が業務利用を許可していない個人利用の外部生成AIサービスへ対象者データをアップロードした。データには氏名や保険証記号番号のほか、疾患情報などの要配慮個人情報が含まれていた。委託元の自治体の発表では対象は計19,996件で、複数の健保組合・共済組合・自治体がそれぞれ自分たちの対象者数を公表した。サービス名(ChatGPT)は委託元の皆野町の発表によるもので、RIZAPの発表は「外部の生成AIサービス」と記載している。
-
豪ニューサウスウェールズ州復興庁の元委託業者が、洪水被災者向け事業の個人情報をChatGPTにアップロード
NSW州復興庁は、北部河川地域の住宅支援事業(Resilient Homes Program)の元委託業者が、2025年3月12〜15日に、庁が認めていないAIプラットフォームであるChatGPTへ、申請者の個人情報を含むExcelファイル(10列、1万2,000行超)をアップロードしたと公表した。最大3,000人が影響を受けた可能性がある。
この記事の根拠にした資料
- OpenAI「How your data is used to improve model performance」
- OpenAI「Enterprise privacy at OpenAI」
- Microsoft「Enterprise data protection in Microsoft Copilot and Microsoft Copilot Chat」
- Google「Generative AI in Google Workspace Privacy Hub」
- Google「Gemini Apps Privacy Hub」
- Anthropic「Is my data used for model training?(商用製品)」
- Anthropic「Updates to Consumer Terms and Privacy Policy」
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
- 総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」
- 総務省「令和8年版 情報通信白書 第Ⅰ部第2章第1節」
- デジタル庁「生成AIシステム利活用ルールひな形 2.0版(行政の進化と革新のための生成AIの調達・利活用に係るガイドライン 別紙2)」
- 独立行政法人情報処理推進機構(IPA)「情報セキュリティ10大脅威 2026 解説書[組織編]」
- Microsoft「個人向け Microsoft Copilot:アクティビティの履歴」