生成AIの悪用（攻撃・犯罪）の事例（13件）
生成AIを使ってマルウェアやフィッシングメールを作るなど、攻撃や犯罪にAIが使われた事例です。
- AIの悪用 株式会社バンダイナムコフィルムワークス（バンダイチャンネル）（日本）
バンダイチャンネルの会員約4万6,800アカウントを生成AIで修正した攻撃プログラムで退会させたとして高校生を逮捕
バンダイナムコフィルムワークスは、2025年11月4日に不正アクセスにより動画配信サービス「バンダイチャンネル」の一部の会員が意図せず退会処理される障害が起き、最大136.6万件の会員情報が漏えいしたおそれがあるとして、11月6日からサービスを停止し、12月19日に再開したと公表した。警察庁の報告によると、高校生の少年（当時15歳）は動画配信サービスのサーバーに脆弱性を見つけ、2025年11月、生成AIを用いて修正した自作の攻撃プログラムで会員約4万6,800アカウントを本人の意思に反して退会させるなどして業務を妨害したとして、2026年7月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、時期・サービスの種類・被害の形（会員の意図しない退会）が同社の公表と一致する。
- AIの悪用 千葉県警察（日本）
AIで作ったソースコードを組み合わせてランサムウェアを作成したとして、千葉県警が19歳の男を逮捕
警察庁の令和8年上半期の報告によると、会社員の男（19歳）は、飲料メーカーがランサムウェア攻撃を受けたという報道を見て、ランサムウェアを作って金を稼ごうと考え、2026年2月にAIを悪用して作成したソースコードを組み合わせてランサムウェアを作成した。千葉県警は2026年6月、不正指令電磁的記録作成の疑いで逮捕した。
- AIの悪用 株式会社快活フロンティア（快活CLUB）（日本）
快活CLUBのアプリのサーバーに生成AIで作ったプログラムで約724万件の不正な指令、会員情報が漏えい（高校生を逮捕）
快活CLUBを運営する快活フロンティアは、2025年1月18日にサーバーへの不正アクセスを検知し、会員情報7,290,087件が漏えいした可能性があると公表した。警察庁の報告によると、高校生の少年（当時17歳）は2025年1月、生成AIを悪用して複合カフェのアプリのサーバーに約724万件の不正な指令を送信して会員情報を漏えいさせ、アプリの機能の一部を止めたとして、2025年12月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、快活フロンティアは2025年12月4日に、この不正アクセスの容疑者が警視庁に逮捕されたと公表しており、攻撃の時期・対象・逮捕の時期が一致する。
-
Anthropic、Claude Codeを使った国家支援とみられるグループのサイバー諜報活動を検知し遮断したと公表
Anthropicは、2025年9月中旬、同社が中国の国家支援グループと高い確度で評価する攻撃者が、Claude Codeを攻撃の枠組みに組み込み、大手テック企業・金融機関・化学メーカー・政府機関など約30の標的への侵入を試みたと公表した。作業の80〜90%をAIが担い、人の関与は1回の作戦あたり4〜6回の重要な判断にとどまったとしている。少数の事例で侵入が成功した。
-
Google、実際の攻撃でLLMに問い合わせて命令を作るマルウェア（PROMPTSTEAL）や、Geminiで自分を書き換えようとするマルウェア（PROMPTFLUX）を報告
Googleの脅威インテリジェンス部門GTIGは、ロシア政府系とされるAPT28がウクライナを標的に使ったデータ窃取マルウェアPROMPTSTEAL（CERT-UAの呼称はLAMEHUG）が、Hugging Face経由でLLMに問い合わせてWindowsのコマンドを作らせ実行していたとし、実運用でLLMに問い合わせるマルウェアを初めて観測したと報告した。また、Gemini APIに自分のソースコードの難読化・書き換えを依頼するVBScriptのドロッパーPROMPTFLUXも確認したが、開発・試験段階で、現時点では被害を与える能力はないと評価した。
-
Anthropic、Claude Codeを使って少なくとも17組織からデータを盗み恐喝した事例などを検知・遮断したと公表
Anthropicの脅威報告（2025年8月）によると、サイバー犯罪者がClaude Codeで偵察、認証情報の収集、ネットワークへの侵入を自動化し、医療、緊急サービス、政府・宗教機関などの少なくとも17組織からデータを盗み、公開すると脅して身代金を要求した。要求額は50万ドルを超えることもあった。同じ報告は、北朝鮮の工作員がClaudeを使って米大手テック企業のリモート職を得ていた事例や、Claudeでランサムウェアを開発・販売していた事例も挙げている。
-
ビルドツール「Nx」の悪意ある版がnpmに公開、ローカルのAIツールを使って機密情報を探す処理を含む
ビルドツールNxと関連プラグインの悪意ある版がnpmに公開され、インストール時に実行されるスクリプトがファイルを探して認証情報などを集め、被害者のGitHubアカウントに『s1ngularity-repository』を含む名前の公開リポジトリを作って送り出した。Nxの事後報告によると、このスクリプトはClaudeやGeminiなどのローカルAIツールを使おうとした。
- AIの悪用 大阪府警察（日本）
大手ECサイトを装うフィッシングサイトを生成AIで改修していた男らを大阪府警が逮捕
警察庁の令和7年の報告によると、無職の男（36）らは2024年6月と9月に大手ECサイトを装ったフィッシングサイトを公開し、同年11月に不正に取得した他人の識別符号（ID・パスワード等）を保管した。サイトを作る際に生成AIを悪用して改修していたことが判明しており、大阪府警は日本サイバー犯罪対策センター（JC3）の協力を得て2025年6月、不正アクセス禁止法違反（識別符号の入力要求・保管）で逮捕した。
- AIの悪用 警察庁・インド中央捜査局（CBI）（日本）
日本人を狙ったサポート詐欺でインドの被疑者6人を逮捕、標的の特定や偽警告画面の作成・翻訳に生成AIを使用
警察庁の令和7年の報告によると、日本警察とインド中央捜査局（CBI）が日本人を標的としたサポート詐欺事件を国際共同捜査し、2025年5月にCBIがインド国内でインド人被疑者6人を逮捕した。被疑者グループは生成AIを悪用し、標的の特定、ポップアップウィンドウの作成、日本語への翻訳を行っていた。捜査にはJC3やMicrosoftも協力した。
-
Microsoft、盗んだ顧客の認証情報で生成AIサービス（Azure OpenAI等）を悪用していた犯罪ネットワーク「Storm-2139」を提訴
MicrosoftのDigital Crimes Unitは、公開情報から集めた顧客の認証情報を悪用して生成AIサービスのアカウントに入り、機能を改変したうえでアクセス権を他の犯罪者に転売し、著名人の性的画像など有害なコンテンツの生成方法を提供していたとするネットワーク『Storm-2139』について、2024年12月に提訴し、2025年2月の修正訴状で4人を特定したと公表した。
- AIの悪用 楽天モバイル株式会社（日本）
中高生の少年3人が他人のIDで楽天モバイルのeSIMを不正に取得（生成AIの悪用も判明）
警察庁の報告によると、SNSで知り合った中高生の少年3人（14〜16歳）は、2024年5月から8月にかけて、不正に入手した他人のIDとパスワードで電気通信事業者のサーバーに不正アクセスしてeSIMを不正に取得したとして、2025年1月から2月にかけて警視庁に逮捕された。報告は、この事件で生成AIを悪用した事実も判明したとしている。総務省は2025年8月、楽天モバイルに対し、少年らの犯行グループが2023年11月から2025年2月にかけて有効なIDとパスワードを入手し、本人確認書類なしで2回線目以降のeSIMを申し込める仕組みを悪用して不正に契約した事案などについて指導した。警察庁の報告は事業者名を伏せているが、期間・サービス（eSIM）・手口（2回線目以降をIDとパスワードだけで申し込める仕組みの悪用）が総務省の指導文書と一致する。
- AIの悪用 警視庁（日本）
生成AIを利用して不正プログラムを作成したとして、警視庁が男を逮捕
警察庁の報告によると、男（当時25歳）は2023年3月、生成AIを利用して、実行するとファイルのデータを上書きして破壊する機能を持つ不正プログラムを作成した。警視庁は2024年5月、不正指令電磁的記録作成の疑いで男を逮捕した。
-
MicrosoftとOpenAI、ロシア・北朝鮮・イラン・中国の国家支援とみられる5つの攻撃グループによるLLM利用を確認し、アカウントを停止
MicrosoftはOpenAIとの協力により、ロシア軍情報機関に関連するForest Blizzard、北朝鮮のEmerald Sleet、イランのCrimson Sandstorm、中国のCharcoal TyphoonとSalmon Typhoonの5グループが、偵察、スクリプト作成の支援、フィッシング文面の作成、翻訳などにLLMを使っていたと公表した。LLMを使った重大な攻撃や新しい攻撃手法は確認されていないとしている。