2025年10月に公表された生成AI関連のインシデント（2件）
2025年10月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
-
GitHub Copilot Chatで、PRに隠した指示により非公開リポジトリのコードや秘密情報を引き出せる脆弱性「CamoLeak」（Legit Security報告）
Legit Securityの研究者は、プルリクエストの説明文に見えないコメントで指示を隠しておくと、被害者がそのPRについてCopilot Chatに質問したときに被害者の権限で指示が実行され、GitHub自身の画像プロキシ（Camo）を経由して非公開リポジトリのソースコードやシークレットを外部に送らせられることを示した。深刻度はCVSS 9.6とされた。GitHubはCopilot Chatでの画像表示を無効化して対処した。
- 原因
- PRの説明文などに埋め込まれた指示による間接プロンプトインジェクションと、GitHubの画像プロキシを使ったCSPの回避（Legit Security）。
- 影響
- 非公開リポジトリのソースコードやシークレット、非公開issueの内容が漏えいし得た。実際の悪用の有無は公表なし。
- 当事者の対応
- GitHubは2025年8月14日までにCopilot Chatでの画像表示を完全に無効化した（Legit Security）。
- 防ぐには
- コードレビューにAIを使うときは、外部からのPRやissueの文面も攻撃者が書いた入力として扱い、AIが外部と通信できる経路を絞る。
-
豪ニューサウスウェールズ州復興庁の元委託業者が、洪水被災者向け事業の個人情報をChatGPTにアップロード
NSW州復興庁は、北部河川地域の住宅支援事業（Resilient Homes Program）の元委託業者が、2025年3月12〜15日に、庁が認めていないAIプラットフォームであるChatGPTへ、申請者の個人情報を含むExcelファイル（10列、1万2,000行超）をアップロードしたと公表した。最大3,000人が影響を受けた可能性がある。
- 原因
- 元委託業者が、承認されていないAIプラットフォーム（ChatGPT）に個人情報をアップロードした（同庁）。
- 影響
- 最大3,000人。氏名・住所、メールアドレス、電話番号、その他の個人情報や健康情報。公開や第三者アクセスの証拠はないが、可能性は否定できないとしている。
- 当事者の対応
- Cyber Security NSWによる調査とフォレンジック、インターネットとダークウェブの監視、ID Support NSWによる対象者支援、州プライバシーコミッショナーへの通知、職員向け指針の発出、独立レビューの開始、身分証の再発行費用の補償。
- 防ぐには
- 委託先や契約者も含めて使ってよいAIを明示し、個人情報を含むファイルの外部サービスへのアップロードを技術的に制限する。