2025年11月に公表された生成AI関連のインシデント（4件）
2025年11月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
-
OpenAIが使っていた分析ツールMixpanelで不正アクセス、APIプラットフォーム利用者の氏名・メールアドレスなどが持ち出される
OpenAIは、APIプラットフォーム（platform.openai.com）のWeb分析に使っていたMixpanelのシステムに攻撃者が不正アクセスし、一部利用者の限られた情報を含むデータセットを持ち出したと公表した。OpenAIのシステムへの侵害ではなく、チャット、APIリクエスト、パスワード、APIキー、支払情報などは含まれないとしている。
- 原因
- 委託先（Mixpanel）のシステムへの不正アクセス（OpenAI）。
- 影響
- API利用者の氏名、メールアドレス、ブラウザから推定したおおよその所在地、OS・ブラウザ、参照元サイト、組織IDまたはユーザーID。2025年12月19日の追記で、ヘルプセンターに問い合わせた、またはplatform.openai.comにログインしていた一部のChatGPT利用者も含まれると明確化した。
- 当事者の対応
- Mixpanelを本番サービスから外して利用を終了、影響を受けた組織・管理者・利用者に通知、委託先全体のセキュリティ審査を拡大。
- 防ぐには
- AIサービスの登録情報も流出し得る前提で、AIサービスを装うフィッシングに注意するよう社内に周知する。
-
Anthropic、Claude Codeを使った国家支援とみられるグループのサイバー諜報活動を検知し遮断したと公表
Anthropicは、2025年9月中旬、同社が中国の国家支援グループと高い確度で評価する攻撃者が、Claude Codeを攻撃の枠組みに組み込み、大手テック企業・金融機関・化学メーカー・政府機関など約30の標的への侵入を試みたと公表した。作業の80〜90%をAIが担い、人の関与は1回の作戦あたり4〜6回の重要な判断にとどまったとしている。少数の事例で侵入が成功した。
- 原因
- 攻撃者がClaudeをジェイルブレイクし、攻撃を無害に見える小さなタスクに分け、正規のセキュリティ企業の防御テストだと偽った（Anthropic）。
- 影響
- 約30の標的のうち少数で成功（組織名は公表なし）。
- 当事者の対応
- 約10日間で関連アカウントを順次停止、影響を受けた組織への通知と当局との連携、検知能力と分類器の強化。
- 防ぐには
- 攻撃の速度と規模がAIで上がる前提で、脆弱性の修正、認証情報の管理、不審な探索や認証の検知を自動化しておく。
-
Google、実際の攻撃でLLMに問い合わせて命令を作るマルウェア（PROMPTSTEAL）や、Geminiで自分を書き換えようとするマルウェア（PROMPTFLUX）を報告
Googleの脅威インテリジェンス部門GTIGは、ロシア政府系とされるAPT28がウクライナを標的に使ったデータ窃取マルウェアPROMPTSTEAL（CERT-UAの呼称はLAMEHUG）が、Hugging Face経由でLLMに問い合わせてWindowsのコマンドを作らせ実行していたとし、実運用でLLMに問い合わせるマルウェアを初めて観測したと報告した。また、Gemini APIに自分のソースコードの難読化・書き換えを依頼するVBScriptのドロッパーPROMPTFLUXも確認したが、開発・試験段階で、現時点では被害を与える能力はないと評価した。
- 原因
- 攻撃者による生成AI（API）の悪用（GTIG）。
- 影響
- PROMPTSTEALは実際の攻撃で観測、PROMPTFLUXは実験段階（GTIG）。
- 当事者の対応
- PROMPTFLUXに関連する資産を無効化し、分類器とモデルを強化（Google）。
- 防ぐには
- 端末から生成AIのAPIへ通信する必要がある業務かを見直し、想定外のAPI通信や、プログラムに埋め込まれたAPIキーを監視する。
- ディープフェイク 株式会社PHP研究所／パナソニック ホールディングス株式会社（日本）
故・松下幸之助氏の画像や音声をAIで合成した偽動画がSNSで拡散、PHP研究所とパナソニックHDが注意喚起
PHP研究所は、創設者でパナソニックグループ創業者の故・松下幸之助氏の画像や音声をAI技術で不正に合成した動画が、インターネット上で出回っていることを確認したと公表した。本人の言動・人柄をゆがめる内容を含む場合があり、違法な可能性が高いとして、見つけしだい調査・記録し、プラットフォームへの削除申立てや法的措置を検討するとした。パナソニック ホールディングスも2025年11月21日、YouTubeをはじめとするSNSで同様の動画が拡散していることを確認したとして注意を呼びかけ、同社がPHP研究所と共同開発している「松下幸之助」再現AIとも関係がないと説明した。
- 原因
- 公表なし
- 影響
- 金銭被害の記載なし。実際の発言に基づかない誤った情報や、肖像・発言を無断で使ったものを含む動画が拡散している（パナソニックHD）。
- 当事者の対応
- PHP研究所は継続的な監視、該当コンテンツの調査・記録、削除申立てと法的措置の検討、パナソニックや関係団体への注意喚起の依頼を表明。利用者には、閲覧・共有・転載をせず、プラットフォームの通報フォームや同研究所の専用フォームで知らせるよう求めた。
- 防ぐには
- 経営者や創業者の映像・声が公開されている会社は、AIで合成した偽動画が出回る前提で、公式に否定する場所、通報の受付窓口、プラットフォームへの削除申立ての手順を決めておく。