社内でAIを使い始めた会社のための、情報漏洩対策の手引き
生成AIの業務利用が広がるにつれて、入力した情報の漏洩、AIを狙った新しい攻撃、AIを使った詐欺が現実の事例になっています。このサイトは、担当者が何が起きていて、何をすればよいかを判断できるよう、公的資料と一次発表にもとづいて整理しています。
AI時代の脅威を知る
解説の一覧-
生成AIのセキュリティ全体像
生成AIを業務で使う会社が向き合うセキュリティ上のリスクを、「使う側」「組み込む側」「攻撃に使われる側」に分けて整理し、AI事業者ガイドラインやIPA、OWASP、NISTの枠組みとの対応、取り組む順番を解説します。
-
生成AIからの情報漏洩
ChatGPTなどの生成AIを業務で使うと、どんな経路で情報が漏れうるのか。入力データの扱い（学習への利用・保存期間）を主要サービスの個人向け・法人向けで比べ、サービス側の不具合、共有・連携機能、アカウントの乗っ取りまで、経路ごとに会社でできる対策を整理します。
-
DeepSeekの危険性
中国のAI企業DeepSeekの生成AIを業務で使ってよいか。データの保存先と適用される法律、実際に起きた情報の露出、国内外の当局の対応、安全対策の検証結果を一次資料で整理し、公式アプリ・API・クラウド経由・自社環境という使い方ごとにデータの行き先と注意点を比べます。
-
プロンプトインジェクション
生成AIに読ませる文章に指示を紛れ込ませ、AIを意図しない動きに誘導する「プロンプトインジェクション」の仕組みと種類、実際に報告された脆弱性、AIを業務で使う会社がとれる対策を、総務省のガイドラインやOWASPの資料をもとに解説します。
-
シャドーAI
会社が把握していない生成AIツールを社員が業務で使う「シャドーAI」。なぜ起きるのか、何が危ないのか、国内の調査の数字、禁止だけに頼らずに管理する方法を、担当者向けに解説します。
-
AIを使った詐欺
経営者の顔や声を生成AIでまねたビデオ会議・電話での送金指示や、自然な日本語で書かれたフィッシングなど、AIで巧妙になった詐欺の手口と公表された事例、会社として整えておく確認の手順を解説します。
社内ルールを作る
手引きの一覧実際に起きた事例
事例集（35件）-
RIZAP社員が個人利用の生成AIに特定保健指導の対象者データ（要配慮個人情報を含む）をアップロード
健康保険組合や自治体から特定保健指導を受託していたRIZAPで、社員がデータ集計作業中に、会社が業務利用を許可していない個人利用の外部生成AIサービスへ対象者データをアップロードした。データには氏名や保険証記号番号のほか、疾患情報などの要配慮個人情報が含まれていた。委託元の自治体の発表では対象は計19,996件で、複数の健保組合・共済組合・自治体がそれぞれ自分たちの対象者数を公表した。サービス名（ChatGPT）は委託元の皆野町の発表によるもので、RIZAPの発表は「外部の生成AIサービス」と記載している。
- AIの悪用 株式会社バンダイナムコフィルムワークス（バンダイチャンネル）（日本）
バンダイチャンネルの会員約4万6,800アカウントを生成AIで修正した攻撃プログラムで退会させたとして高校生を逮捕
バンダイナムコフィルムワークスは、2025年11月4日に不正アクセスにより動画配信サービス「バンダイチャンネル」の一部の会員が意図せず退会処理される障害が起き、最大136.6万件の会員情報が漏えいしたおそれがあるとして、11月6日からサービスを停止し、12月19日に再開したと公表した。警察庁の報告によると、高校生の少年（当時15歳）は動画配信サービスのサーバーに脆弱性を見つけ、2025年11月、生成AIを用いて修正した自作の攻撃プログラムで会員約4万6,800アカウントを本人の意思に反して退会させるなどして業務を妨害したとして、2026年7月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、時期・サービスの種類・被害の形（会員の意図しない退会）が同社の公表と一致する。
- AIの悪用 千葉県警察（日本）
AIで作ったソースコードを組み合わせてランサムウェアを作成したとして、千葉県警が19歳の男を逮捕
警察庁の令和8年上半期の報告によると、会社員の男（19歳）は、飲料メーカーがランサムウェア攻撃を受けたという報道を見て、ランサムウェアを作って金を稼ごうと考え、2026年2月にAIを悪用して作成したソースコードを組み合わせてランサムウェアを作成した。千葉県警は2026年6月、不正指令電磁的記録作成の疑いで逮捕した。
-
AIエージェント向けSNS「Moltbook」のデータベースが認証なしで読み書き可能、約150万件のAPIトークンなどが露出（Wiz報告）
Wizは、AIエージェント同士が投稿・交流するSNS『Moltbook』で、ブラウザ側のJavaScriptに埋め込まれたSupabaseのAPIキーと、行レベルのアクセス制御（Row Level Security）の未設定により、本番データベースを認証なしで読み書きできる状態だったと公表した。約150万件のエージェント用APIトークン、メールアドレス、エージェント間の非公開メッセージなどにアクセスできた。
- AIの悪用 株式会社快活フロンティア（快活CLUB）（日本）
快活CLUBのアプリのサーバーに生成AIで作ったプログラムで約724万件の不正な指令、会員情報が漏えい（高校生を逮捕）
快活CLUBを運営する快活フロンティアは、2025年1月18日にサーバーへの不正アクセスを検知し、会員情報7,290,087件が漏えいした可能性があると公表した。警察庁の報告によると、高校生の少年（当時17歳）は2025年1月、生成AIを悪用して複合カフェのアプリのサーバーに約724万件の不正な指令を送信して会員情報を漏えいさせ、アプリの機能の一部を止めたとして、2025年12月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、快活フロンティアは2025年12月4日に、この不正アクセスの容疑者が警視庁に逮捕されたと公表しており、攻撃の時期・対象・逮捕の時期が一致する。