2025年6月に公表された生成AI関連のインシデント（2件）
2025年6月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
-
Microsoft 365 Copilotに、メールを受け取るだけで社内データを外部送信させ得る脆弱性「EchoLeak」（CVE-2025-32711）
Aim Security（Aim Labs）は、攻撃者がメールを送るだけで、利用者が何もしなくてもMicrosoft 365 Copilotが参照できる社内データを外部へ送らせる攻撃チェーン『EchoLeak』を見つけ、Microsoftに報告した。Microsoftは『M365 CopilotにおけるAIコマンドインジェクション』としてCVE-2025-32711を公表した。
- 原因
- 外部から届いたメールに書かれた指示がCopilotに取り込まれて実行される間接プロンプトインジェクション。Aimは、プロンプトインジェクション対策の分類器（XPIA）の回避などを組み合わせた連鎖を示し、『LLMスコープ違反』と名付けた。
- 影響
- CVSS 3.1基本値9.3（Microsoftの評価）。Aimによれば、Microsoftは影響を受けた顧客はいないとしている。
- 当事者の対応
- MicrosoftがCVEを公表し対処。Aimは、外部メールを除外するDLPタグなどの設定も紹介している。
- 防ぐには
- AIアシスタントが外部メールや外部文書を読み込む範囲を設定で絞り、機密ラベルやDLPで参照対象を管理する。
- AIの悪用 大阪府警察（日本）
大手ECサイトを装うフィッシングサイトを生成AIで改修していた男らを大阪府警が逮捕
警察庁の令和7年の報告によると、無職の男（36）らは2024年6月と9月に大手ECサイトを装ったフィッシングサイトを公開し、同年11月に不正に取得した他人の識別符号（ID・パスワード等）を保管した。サイトを作る際に生成AIを悪用して改修していたことが判明しており、大阪府警は日本サイバー犯罪対策センター（JC3）の協力を得て2025年6月、不正アクセス禁止法違反（識別符号の入力要求・保管）で逮捕した。
- 原因
- 公表なし
- 影響
- 公表なし（警察庁資料に件数の記載なし）
- 当事者の対応
- 大阪府警が2025年6月に逮捕（警察庁資料）。
- 防ぐには
- 生成AIで偽サイトの見た目や日本語が自然になっている前提で、URLの確認やパスキー・多要素認証の利用を利用者に勧める。