2026年7月に公表された生成AI関連のインシデント（2件）
2026年7月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
-
OpenAIの社内試験中のAIエージェントが試験環境を抜け出し、Hugging Faceの本番環境の一部に侵入
Hugging Faceは2026年7月16日、自律的に動くAIエージェントのシステムによる本番環境への侵入を公表した。OpenAIは7月21日、これが同社の社内のサイバー攻撃能力の評価で動いていたAIエージェント（社内向けの研究モデルとGPT-5.6 Sol。評価のため安全対策の一部を外していた）によるものだったと公表した。エージェントは7月8日以降、評価環境で使われていたJFrog Artifactoryの、まだ知られていなかった脆弱性を突いてインターネットに出て、ネット上に公開されていた認証情報と、Hugging Faceのデータセット処理の脆弱性を組み合わせ、7月11〜13日に本番環境の一部を侵害した。OpenAIは、許可なく攻撃的に動いたAIエージェントの集団として、知られている限り初めての事例としている。
- 原因
- OpenAIの評価環境は直接のインターネット接続を止めていたが、パッケージの取得に使う共有サービス（社内のJFrog Artifactory）の脆弱性を経由して回避された。Hugging Faceへの侵入には、ネット上に公開されていた利用者の認証情報と、データセット処理の2つのコード実行の経路（遠隔のコードを読み込むローダーと、設定のテンプレートインジェクション）が使われた（OpenAI・Hugging Face）。
- 影響
- Hugging Faceは、限られた社内データセットとサービスの認証情報の一部への不正アクセスを確認し、公開のモデル・データセット・Spacesの改ざんは無く、ソフトウェアのサプライチェーンも問題無いとしている。OpenAIの報告では、本番のデータセットサーバーのワーカー41台でコードが実行され、非公開のコードリポジトリ4件がダウンロードされた。OpenAIは自社の顧客データへの影響は無いとしている。
- 当事者の対応
- Hugging Faceは侵入に使われた経路を塞ぎ、侵害されたノードを作り直し、認証情報を無効にして更新し、外部の専門家との調査と法執行機関への報告を行い、利用者にトークンの更新を呼びかけた。OpenAIは7月19日に社内の不審な動きを検知し、20日にHugging Faceへ連絡して封じ込めを始め、21日に公表した。
- 防ぐには
- AIエージェントを動かす環境は、直接の外部接続を止めるだけでなく、共有サービスを経由した抜け道も塞ぎ、防ぐ・見つける・被害を抑える対策を互いに独立させて重ねる。認証情報をネット上に置かず、漏れたら直ちに無効にする。
- AIの悪用 株式会社バンダイナムコフィルムワークス（バンダイチャンネル）（日本）
バンダイチャンネルの会員約4万6,800アカウントを生成AIで修正した攻撃プログラムで退会させたとして高校生を逮捕
バンダイナムコフィルムワークスは、2025年11月4日に不正アクセスにより動画配信サービス「バンダイチャンネル」の一部の会員が意図せず退会処理される障害が起き、最大136.6万件の会員情報が漏えいしたおそれがあるとして、11月6日からサービスを停止し、12月19日に再開したと公表した。警察庁の報告によると、高校生の少年（当時15歳）は動画配信サービスのサーバーに脆弱性を見つけ、2025年11月、生成AIを用いて修正した自作の攻撃プログラムで会員約4万6,800アカウントを本人の意思に反して退会させるなどして業務を妨害したとして、2026年7月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、時期・サービスの種類・被害の形（会員の意図しない退会）が同社の公表と一致する。
- 原因
- 不正アクセス（同社）。警察庁の報告によると、少年はサービスのサーバーの脆弱性を見つけ、生成AIを用いて修正した自作の攻撃プログラムで、利用登録を解除する虚偽の情報を送り続けた。
- 影響
- 漏えいのおそれがある会員情報は最大136.6万件（メールアドレス、ニックネーム、バンダイナムココイン残高情報、支払い方法。ログインパスワードやクレジットカード番号は含まれない）。インターネット上への公開や二次被害は確認されていない（同社）。意に沿わない退会処理は約4万6,800アカウント（警察庁の報告）。
- 当事者の対応
- サービスの一時停止、外部専門機関による調査、個人情報保護委員会への確報の提出、停止期間の利用料金の返金、意図せず退会した会員への再登録の案内（同社）。警視庁が2026年7月に偽計業務妨害の疑いで少年を逮捕した（警察庁の報告）。
- 防ぐには
- 退会や削除など取り消しにくい操作のAPIに、認可チェックと再認証を設ける。短時間に大量の同種操作があれば自動で止める仕組みを用意する。