2025年12月に公表された生成AI関連のインシデント（1件）

快活CLUBのアプリのサーバーに生成AIで作ったプログラムで約724万件の不正な指令、会員情報が漏えい（高校生を逮捕）

快活CLUBを運営する快活フロンティアは、2025年1月18日にサーバーへの不正アクセスを検知し、会員情報7,290,087件が漏えいした可能性があると公表した。警察庁の報告によると、高校生の少年（当時17歳）は2025年1月、生成AIを悪用して複合カフェのアプリのサーバーに約724万件の不正な指令を送信して会員情報を漏えいさせ、アプリの機能の一部を止めたとして、2025年12月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、快活フロンティアは2025年12月4日に、この不正アクセスの容疑者が警視庁に逮捕されたと公表しており、攻撃の時期・対象・逮捕の時期が一致する。

原因

外部からの不正アクセス（快活フロンティア）。警察庁の報告によると、攻撃には生成AIを悪用して作成したプログラムが使われた。サーバー側の弱点の内容は公表されていない。

影響

漏えいの可能性がある会員情報は7,290,087件（快活フロンティア、2025年1月28日）。身分証明書の情報、クレジットカード情報、メールアドレス、会員アプリのパスワードは含まれない（同社）。アプリの機能の一部も停止した（警察庁の報告）。約724万件は不正な指令の件数（警察庁の報告）。

当事者の対応

サーバーのネットワークからの切り離し、外部の専門家の助言を受けた調査、警察への被害の申告、個人情報保護委員会への報告、対象者への連絡（快活フロンティア）。警視庁が2025年12月に不正アクセス禁止法違反と偽計業務妨害の疑いで少年を逮捕した（警察庁の報告）。

防ぐには

アプリのAPIに認可のチェックと回数の制限を設け、短時間の大量リクエストを検知・遮断する。攻撃側がAIでツールを素早く作り直せる前提で、脆弱性診断の頻度を上げる。