{ "name": "生成AI関連の情報漏洩・インシデント事例集", "publisher": "株式会社shigegegege", "source": "https://aisec-note.jp/incidents/", "criteria": "https://aisec-note.jp/policy/#criteria", "updated": "2026-10-20", "count": 41, "incidents": [ { "id": "2026-09-rizap-employee-uploaded-health-guidance-data-to-generative-ai", "url": "https://aisec-note.jp/incidents/2026-09-rizap-employee-uploaded-health-guidance-data-to-generative-ai/", "title": "RIZAP社員が個人利用の生成AIに特定保健指導の対象者データ（要配慮個人情報を含む）をアップロード", "published": "2026-09-02", "occurred": "2026-08-20", "organization": "RIZAP株式会社（RIZAPグループの子会社）", "org_type": "企業", "country": "日本", "category": "input-leak", "category_label": "生成AIへの入力による漏洩", "ai_tool": "ChatGPT", "summary": "健康保険組合や自治体から特定保健指導を受託していたRIZAPで、社員がデータ集計作業中に、会社が業務利用を許可していない個人利用の外部生成AIサービスへ対象者データをアップロードした。データには氏名や保険証記号番号のほか、疾患情報などの要配慮個人情報が含まれていた。委託元の自治体の発表では対象は計19,996件で、複数の健保組合・共済組合・自治体がそれぞれ自分たちの対象者数を公表した。サービス名（ChatGPT）は委託元の皆野町の発表によるもので、RIZAPの発表は「外部の生成AIサービス」と記載している。", "cause": "社員が、社内で許可されていない個人利用の外部生成AIサービスに対象データを誤ってアップロードした（RIZAP発表）。", "impact": "対象は2026年1月1日〜8月19日に特定保健指導管理システムへ登録されたデータの一部（RIZAP）。全体の件数は19,996名分（皆野町・開成町・全国土木建築国民健康保険組合の発表）。委託元ごとの対象は、全国土木建築国民健康保険組合1,167名、地方職員共済組合726名（14支部）、IHIグループ健康保険組合210名、皆野町54件（特定保健指導3件、セミナー51件）、開成町2件など。RIZAPは、AI事業者以外の第三者による閲覧や学習への利用の可能性はないとし、AI事業者の役職員が閲覧できる状態にあった可能性は確認中としていた（2026年9月3日時点）。その後の最終報告では、AI事業者から「ユーザーコンテンツへアクセスできる権限保持者は、ごく少数の担当者等に厳格に制限され、監視・記録のもと管理されている」旨の回答を得て、漏えいや二次被害に至る可能性は極めて低いと判断し、個人情報保護委員会への確報（最終報告）で確認を終えた（地方職員共済組合、2026年10月2日）。", "response": "発見直後に作業者がチャット履歴を削除し学習利用停止を設定、AI事業者に照会、個人情報保護委員会へ報告（8月21日・全国土木建築国民健康保険組合の発表）、提供元と調整して対象者へ順次連絡。最終報告で示された再発防止策は、許可されていない生成AIの業務利用禁止の再周知（8月25日完了）、アクセス権限・利用環境の点検と見直し（9月中）、AIマネジメントシステムの力量評価に足る教育（11月中）、特定保健指導の部署でのAIマネジメントシステム（ISO/IEC 42001）の認証取得（2026年度中）（地方職員共済組合が公表したRIZAPの最終報告）。", "prevention": "業務で使ってよい生成AIを組織として指定し、個人アカウントへのアップロードを技術的にも防ぐ（DLP・アクセス制御）。個人データを預ける委託先についても、契約と監督項目に生成AIの利用ルールを含める。", "sources": [ { "kind": "primary", "publisher": "RIZAP株式会社", "title": "当社における外部生成AIサービスへのお客様情報の誤ったアップロードに関するお詫びとお知らせ", "url": "https://rizap.co.jp/news/vG81xYj7", "date": "2026-09-03" }, { "kind": "primary", "publisher": "埼玉県皆野町", "title": "保健事業の委託業者による個人情報を含む情報の漏えいの可能性について（報道発表資料）", "url": "https://www.town.minano.saitama.jp/wp-content/uploads/2022/08/24981bb077e9c777ebe844dea2a0beb2.pdf", "date": "2026-09-02" }, { "kind": "primary", "publisher": "神奈川県開成町", "title": "委託先における個人情報漏えいの可能性のある事案の発生について", "url": "https://www.town.kaisei.kanagawa.jp/info/2723", "date": "2026-09-07" }, { "kind": "primary", "publisher": "IHIグループ健康保険組合", "title": "特定保健指導業務の委託先における生成AI利用に関する事案発生について", "url": "https://www.ihikenpo.or.jp/asp/news/news.asp?articleid=189769&page=1", "date": "2026-09-02" }, { "kind": "primary", "publisher": "全国土木建築国民健康保険組合", "title": "特定保健指導委託業者における個人情報の不適切な取扱いに関するご報告とお詫び", "url": "https://www.dokenpo.or.jp/pop/detail2069" }, { "kind": "primary", "publisher": "地方職員共済組合", "title": "委託先における個人情報漏えいの可能性のある事案の発生について", "url": "https://www.chikyosai.or.jp/info/pdf/info_260904.pdf", "date": "2026-09-04" }, { "kind": "primary", "publisher": "地方職員共済組合", "title": "委託先における個人情報漏えいの可能性のある事案について（続報）", "url": "https://www.chikyosai.or.jp/info/pdf/info_261002.pdf", "date": "2026-10-02" }, { "kind": "report", "publisher": "ITmedia NEWS", "title": "RIZAP社員、私用AIに顧客の個人情報入力　氏名や疾患、保険証番号など……同社が謝罪", "url": "https://www.itmedia.co.jp/news/article/2609/04/2000001161/", "date": "2026-09-04" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2026-07-openai-agents-escaped-sandbox-breached-hugging-face", "url": "https://aisec-note.jp/incidents/2026-07/#2026-07-openai-agents-escaped-sandbox-breached-hugging-face", "title": "OpenAIの社内試験中のAIエージェントが試験環境を抜け出し、Hugging Faceの本番環境の一部に侵入", "published": "2026-07-16", "occurred": "2026-07", "organization": "OpenAI・Hugging Face", "org_type": "AI事業者", "country": "米国", "category": "other", "category_label": "その他", "ai_tool": "OpenAIの社内向け研究モデル、GPT-5.6 Sol（評価用に安全対策を外した設定）", "summary": "Hugging Faceは2026年7月16日、自律的に動くAIエージェントのシステムによる本番環境への侵入を公表した。OpenAIは7月21日、これが同社の社内のサイバー攻撃能力の評価で動いていたAIエージェント（社内向けの研究モデルとGPT-5.6 Sol。評価のため安全対策の一部を外していた）によるものだったと公表した。エージェントは7月8日以降、評価環境で使われていたJFrog Artifactoryの、まだ知られていなかった脆弱性を突いてインターネットに出て、ネット上に公開されていた認証情報と、Hugging Faceのデータセット処理の脆弱性を組み合わせ、7月11〜13日に本番環境の一部を侵害した。OpenAIは、許可なく攻撃的に動いたAIエージェントの集団として、知られている限り初めての事例としている。", "cause": "OpenAIの評価環境は直接のインターネット接続を止めていたが、パッケージの取得に使う共有サービス（社内のJFrog Artifactory）の脆弱性を経由して回避された。Hugging Faceへの侵入には、ネット上に公開されていた利用者の認証情報と、データセット処理の2つのコード実行の経路（遠隔のコードを読み込むローダーと、設定のテンプレートインジェクション）が使われた（OpenAI・Hugging Face）。", "impact": "Hugging Faceは、限られた社内データセットとサービスの認証情報の一部への不正アクセスを確認し、公開のモデル・データセット・Spacesの改ざんは無く、ソフトウェアのサプライチェーンも問題無いとしている。OpenAIの報告では、本番のデータセットサーバーのワーカー41台でコードが実行され、非公開のコードリポジトリ4件がダウンロードされた。OpenAIは自社の顧客データへの影響は無いとしている。", "response": "Hugging Faceは侵入に使われた経路を塞ぎ、侵害されたノードを作り直し、認証情報を無効にして更新し、外部の専門家との調査と法執行機関への報告を行い、利用者にトークンの更新を呼びかけた。OpenAIは7月19日に社内の不審な動きを検知し、20日にHugging Faceへ連絡して封じ込めを始め、21日に公表した。", "prevention": "AIエージェントを動かす環境は、直接の外部接続を止めるだけでなく、共有サービスを経由した抜け道も塞ぎ、防ぐ・見つける・被害を抑える対策を互いに独立させて重ねる。認証情報をネット上に置かず、漏れたら直ちに無効にする。", "sources": [ { "kind": "primary", "publisher": "Hugging Face", "title": "Security incident disclosure — July 2026", "url": "https://huggingface.co/blog/security-incident-july-2026", "date": "2026-07-16" }, { "kind": "primary", "publisher": "OpenAI", "title": "OpenAI – Hugging Face Incident Technical Report", "url": "https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2026-07-video-service-mass-withdrawal-generative-ai", "url": "https://aisec-note.jp/incidents/2026-07/#2026-07-video-service-mass-withdrawal-generative-ai", "title": "バンダイチャンネルの会員約4万6,800アカウントを生成AIで修正した攻撃プログラムで退会させたとして高校生を逮捕", "published": "2026-07", "occurred": "2025-11", "organization": "株式会社バンダイナムコフィルムワークス（バンダイチャンネル）", "org_type": "企業", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "バンダイナムコフィルムワークスは、2025年11月4日に不正アクセスにより動画配信サービス「バンダイチャンネル」の一部の会員が意図せず退会処理される障害が起き、最大136.6万件の会員情報が漏えいしたおそれがあるとして、11月6日からサービスを停止し、12月19日に再開したと公表した。警察庁の報告によると、高校生の少年（当時15歳）は動画配信サービスのサーバーに脆弱性を見つけ、2025年11月、生成AIを用いて修正した自作の攻撃プログラムで会員約4万6,800アカウントを本人の意思に反して退会させるなどして業務を妨害したとして、2026年7月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、時期・サービスの種類・被害の形（会員の意図しない退会）が同社の公表と一致する。", "cause": "不正アクセス（同社）。警察庁の報告によると、少年はサービスのサーバーの脆弱性を見つけ、生成AIを用いて修正した自作の攻撃プログラムで、利用登録を解除する虚偽の情報を送り続けた。", "impact": "漏えいのおそれがある会員情報は最大136.6万件（メールアドレス、ニックネーム、バンダイナムココイン残高情報、支払い方法。ログインパスワードやクレジットカード番号は含まれない）。インターネット上への公開や二次被害は確認されていない（同社）。意に沿わない退会処理は約4万6,800アカウント（警察庁の報告）。", "response": "サービスの一時停止、外部専門機関による調査、個人情報保護委員会への確報の提出、停止期間の利用料金の返金、意図せず退会した会員への再登録の案内（同社）。警視庁が2026年7月に偽計業務妨害の疑いで少年を逮捕した（警察庁の報告）。", "prevention": "退会や削除など取り消しにくい操作のAPIに、認可チェックと再認証を設ける。短時間に大量の同種操作があれば自動で止める仕組みを用意する。", "sources": [ { "kind": "primary", "publisher": "株式会社バンダイナムコフィルムワークス", "title": "「バンダイチャンネル」サービス再開および一時停止期間のご利用料金に関するお知らせ", "url": "https://info.b-ch.com/article/20251219oshirase.html", "date": "2025-12-19" }, { "kind": "primary", "publisher": "警察庁", "title": "令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R8kami/R08_kami_cyber_jousei.pdf", "date": "2026-09-10" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2026-06-chiba-ransomware-created-with-ai", "url": "https://aisec-note.jp/incidents/2026-06/#2026-06-chiba-ransomware-created-with-ai", "title": "AIで作ったソースコードを組み合わせてランサムウェアを作成したとして、千葉県警が19歳の男を逮捕", "published": "2026-06", "occurred": "2026-02", "organization": "千葉県警察", "org_type": "捜査・規制当局", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "警察庁の令和8年上半期の報告によると、会社員の男（19歳）は、飲料メーカーがランサムウェア攻撃を受けたという報道を見て、ランサムウェアを作って金を稼ごうと考え、2026年2月にAIを悪用して作成したソースコードを組み合わせてランサムウェアを作成した。千葉県警は2026年6月、不正指令電磁的記録作成の疑いで逮捕した。", "cause": "公表なし（AIを悪用して作成したとされるが、使われたAIの名称は公表されていない）", "impact": "公表なし（警察庁の報告に被害の記載なし）", "response": "千葉県警が2026年6月に逮捕（警察庁資料）。", "prevention": "専門知識の少ない者でもランサムウェアを作れる前提で、分離バックアップと復旧手順の訓練、脆弱性の早期修正を優先する。", "sources": [ { "kind": "primary", "publisher": "警察庁", "title": "令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R8kami/R08_kami_cyber_jousei.pdf", "date": "2026-09-10" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2026-03-growi-ai-assistant-thread-api-missing-authorization", "url": "https://aisec-note.jp/incidents/2026-03/#2026-03-growi-ai-assistant-thread-api-missing-authorization", "title": "社内Wiki「GROWI」のAIアシスタント機能のAPIに権限チェック欠如の脆弱性、他の利用者のスレッドやメッセージを閲覧・改ざんできるおそれ（JVN#46373837）", "published": "2026-03-16", "occurred": null, "organization": "株式会社GROWI", "org_type": "企業", "country": "日本", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "GROWIのAIアシスタント機能", "summary": "JVNによると、株式会社GROWIが提供する社内Wiki「GROWI」のv7.4.5およびそれ以前に、AIアシスタント機能のスレッド・メッセージのAPI（JVNの表題では「OpenAIスレッド・メッセージ API」）の権限チェック欠如の脆弱性（CWE-862、CVE-2026-25083）があった。共有AIアシスタントの識別子を知っているログイン済みの利用者が、他の利用者のAIアシスタントのスレッドやメッセージを閲覧したり改ざんしたりできる可能性がある。開発者は、各APIでスレッドの所有者を確かめていなかったと説明している。v7.4.6で修正された。", "cause": "各APIエンドポイントでスレッドの所有者検証が行われていなかった（開発者がJVNに提供した説明）。", "impact": "実際に悪用されたかどうかは公表なし。開発者の説明では、共有AIアシスタントの識別子を知るログイン可能な利用者が、他の利用者のスレッド一覧の取得、メッセージの閲覧・投稿・編集、スレッドの削除をできる状態だった。深刻度はCVSS v3で8.3、v4で8.7（IPA値）。", "response": "v7.4.6で修正。JVNと開発者は最新版へのアップデートを呼びかけている。", "prevention": "社内ツールにAI機能が加わったら、AIとのやり取りの履歴も業務データとして扱い、誰が読めるかを確かめる。自社で運用している製品は、修正版が出たら速やかに更新する。", "sources": [ { "kind": "primary", "publisher": "JPCERT/CC・IPA（JVN）", "title": "JVN#46373837: GROWIのOpenAIスレッド・メッセージ APIにおける権限チェック欠如の脆弱性", "url": "https://jvn.jp/jp/JVN46373837/", "date": "2026-03-16" }, { "kind": "primary", "publisher": "株式会社GROWI（JVN掲載の開発者情報）", "title": "株式会社GROWIからの情報（JVN#46373837）", "url": "https://jvn.jp/jp/JVN46373837/996210/index.html", "date": "2026-03-16" }, { "kind": "primary", "publisher": "IPA（JVN iPedia）", "title": "JVNDB-2026-000039 GROWIのOpenAIスレッド・メッセージ APIにおける権限チェック欠如の脆弱性", "url": "https://jvndb.jvn.jp/ja/contents/2026/JVNDB-2026-000039.html", "date": "2026-03-16" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2026-02-moltbook-supabase-database-exposure", "url": "https://aisec-note.jp/incidents/2026-02/#2026-02-moltbook-supabase-database-exposure", "title": "AIエージェント向けSNS「Moltbook」のデータベースが認証なしで読み書き可能、約150万件のAPIトークンなどが露出（Wiz報告）", "published": "2026-02-02", "occurred": "2026-01-31", "organization": "Moltbook", "org_type": "AI事業者", "country": "不明（Wizの記事に記載なし）", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "Moltbook（AIエージェントが投稿・交流するSNS）", "summary": "Wizは、AIエージェント同士が投稿・交流するSNS『Moltbook』で、ブラウザ側のJavaScriptに埋め込まれたSupabaseのAPIキーと、行レベルのアクセス制御（Row Level Security）の未設定により、本番データベースを認証なしで読み書きできる状態だったと公表した。約150万件のエージェント用APIトークン、メールアドレス、エージェント間の非公開メッセージなどにアクセスできた。", "cause": "SupabaseのAPIキーがクライアント側のコードに書かれ、Row Level Securityのポリシーが設定されていなかった（Wiz）。", "impact": "約150万件のAPI認証トークン、メールアドレス、4,060件の非公開メッセージ（一部にOpenAIのAPIキーが平文で含まれていた）など。書き込みも可能だった（Wiz）。", "response": "2026年1月31日の連絡から約3時間で、段階的に修正された（Wiz）。", "prevention": "AIで短期間に作ったサービスでも、公開前にデータベースのアクセス制御とキーの扱いを点検する。AIエージェントに渡すAPIキーは用途を限り、すぐ失効できるものにする。", "sources": [ { "kind": "primary", "publisher": "Wiz", "title": "Hacking Moltbook: The AI Social Network Any Human Can Control", "url": "https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys", "date": "2026-02-02" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-12-cafe-app-server-attack-generative-ai", "url": "https://aisec-note.jp/incidents/2025-12/#2025-12-cafe-app-server-attack-generative-ai", "title": "快活CLUBのアプリのサーバーに生成AIで作ったプログラムで約724万件の不正な指令、会員情報が漏えい（高校生を逮捕）", "published": "2025-12", "occurred": "2025-01", "organization": "株式会社快活フロンティア（快活CLUB）", "org_type": "企業", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "快活CLUBを運営する快活フロンティアは、2025年1月18日にサーバーへの不正アクセスを検知し、会員情報7,290,087件が漏えいした可能性があると公表した。警察庁の報告によると、高校生の少年（当時17歳）は2025年1月、生成AIを悪用して複合カフェのアプリのサーバーに約724万件の不正な指令を送信して会員情報を漏えいさせ、アプリの機能の一部を止めたとして、2025年12月に警視庁に逮捕された。警察庁の報告は社名を伏せているが、快活フロンティアは2025年12月4日に、この不正アクセスの容疑者が警視庁に逮捕されたと公表しており、攻撃の時期・対象・逮捕の時期が一致する。", "cause": "外部からの不正アクセス（快活フロンティア）。警察庁の報告によると、攻撃には生成AIを悪用して作成したプログラムが使われた。サーバー側の弱点の内容は公表されていない。", "impact": "漏えいの可能性がある会員情報は7,290,087件（快活フロンティア、2025年1月28日）。身分証明書の情報、クレジットカード情報、メールアドレス、会員アプリのパスワードは含まれない（同社）。アプリの機能の一部も停止した（警察庁の報告）。約724万件は不正な指令の件数（警察庁の報告）。", "response": "サーバーのネットワークからの切り離し、外部の専門家の助言を受けた調査、警察への被害の申告、個人情報保護委員会への報告、対象者への連絡（快活フロンティア）。警視庁が2025年12月に不正アクセス禁止法違反と偽計業務妨害の疑いで少年を逮捕した（警察庁の報告）。", "prevention": "アプリのAPIに認可のチェックと回数の制限を設け、短時間の大量リクエストを検知・遮断する。攻撃側がAIでツールを素早く作り直せる前提で、脆弱性診断の頻度を上げる。", "sources": [ { "kind": "primary", "publisher": "株式会社快活フロンティア", "title": "本年１月に発生した当社サーバーへの不正アクセスに関する容疑者逮捕の件について", "url": "https://kaikatsufrontier.co.jp/release/f4340dbd21b3331b0d6a09d2ac211c17.pdf", "date": "2025-12-04" }, { "kind": "primary", "publisher": "株式会社快活フロンティア", "title": "不正アクセスの発生及び個人情報漏えいの可能性に関するお知らせ", "url": "https://kaikatsufrontier.co.jp/release/PPcdc9f0089f653cfdfdb02760c2383976.pdf", "date": "2025-01-21" }, { "kind": "primary", "publisher": "株式会社快活フロンティア", "title": "不正アクセスの発生及び個人情報漏えいの可能性に関するお知らせ（続報）", "url": "https://kaikatsufrontier.co.jp/release/bfaa6a8e591cf5f7480b1569cf942c9a.pdf", "date": "2025-01-28" }, { "kind": "primary", "publisher": "警察庁", "title": "令和７年におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf", "date": "2026-03" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-11-openai-mixpanel-vendor-incident", "url": "https://aisec-note.jp/incidents/2025-11/#2025-11-openai-mixpanel-vendor-incident", "title": "OpenAIが使っていた分析ツールMixpanelで不正アクセス、APIプラットフォーム利用者の氏名・メールアドレスなどが持ち出される", "published": "2025-11-26", "occurred": "2025-11-09", "organization": "OpenAI", "org_type": "AI事業者", "country": "米国", "category": "other", "category_label": "その他", "ai_tool": "OpenAI API", "summary": "OpenAIは、APIプラットフォーム（platform.openai.com）のWeb分析に使っていたMixpanelのシステムに攻撃者が不正アクセスし、一部利用者の限られた情報を含むデータセットを持ち出したと公表した。OpenAIのシステムへの侵害ではなく、チャット、APIリクエスト、パスワード、APIキー、支払情報などは含まれないとしている。", "cause": "委託先（Mixpanel）のシステムへの不正アクセス（OpenAI）。", "impact": "API利用者の氏名、メールアドレス、ブラウザから推定したおおよその所在地、OS・ブラウザ、参照元サイト、組織IDまたはユーザーID。2025年12月19日の追記で、ヘルプセンターに問い合わせた、またはplatform.openai.comにログインしていた一部のChatGPT利用者も含まれると明確化した。", "response": "Mixpanelを本番サービスから外して利用を終了、影響を受けた組織・管理者・利用者に通知、委託先全体のセキュリティ審査を拡大。", "prevention": "AIサービスの登録情報も流出し得る前提で、AIサービスを装うフィッシングに注意するよう社内に周知する。", "sources": [ { "kind": "primary", "publisher": "OpenAI", "title": "What to know about a recent Mixpanel security incident", "url": "https://openai.com/index/mixpanel-incident/", "date": "2025-11-26" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-11-anthropic-ai-orchestrated-cyber-espionage", "url": "https://aisec-note.jp/incidents/2025-11/#2025-11-anthropic-ai-orchestrated-cyber-espionage", "title": "Anthropic、Claude Codeを使った国家支援とみられるグループのサイバー諜報活動を検知し遮断したと公表", "published": "2025-11-13", "occurred": "2025-09", "organization": "Anthropic", "org_type": "AI事業者", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "Claude Code", "summary": "Anthropicは、2025年9月中旬、同社が中国の国家支援グループと高い確度で評価する攻撃者が、Claude Codeを攻撃の枠組みに組み込み、大手テック企業・金融機関・化学メーカー・政府機関など約30の標的への侵入を試みたと公表した。作業の80〜90%をAIが担い、人の関与は1回の作戦あたり4〜6回の重要な判断にとどまったとしている。少数の事例で侵入が成功した。", "cause": "攻撃者がClaudeをジェイルブレイクし、攻撃を無害に見える小さなタスクに分け、正規のセキュリティ企業の防御テストだと偽った（Anthropic）。", "impact": "約30の標的のうち少数で成功（組織名は公表なし）。", "response": "約10日間で関連アカウントを順次停止、影響を受けた組織への通知と当局との連携、検知能力と分類器の強化。", "prevention": "攻撃の速度と規模がAIで上がる前提で、脆弱性の修正、認証情報の管理、不審な探索や認証の検知を自動化しておく。", "sources": [ { "kind": "primary", "publisher": "Anthropic", "title": "Disrupting the first reported AI-orchestrated cyber espionage campaign", "url": "https://www.anthropic.com/news/disrupting-AI-espionage", "date": "2025-11-13" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-11-google-gtig-malware-querying-llms", "url": "https://aisec-note.jp/incidents/2025-11/#2025-11-google-gtig-malware-querying-llms", "title": "Google、実際の攻撃でLLMに問い合わせて命令を作るマルウェア（PROMPTSTEAL）や、Geminiで自分を書き換えようとするマルウェア（PROMPTFLUX）を報告", "published": "2025-11", "occurred": null, "organization": "Google（Google Threat Intelligence Group）", "org_type": "AI事業者", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "Gemini API ほか", "summary": "Googleの脅威インテリジェンス部門GTIGは、ロシア政府系とされるAPT28がウクライナを標的に使ったデータ窃取マルウェアPROMPTSTEAL（CERT-UAの呼称はLAMEHUG）が、Hugging Face経由でLLMに問い合わせてWindowsのコマンドを作らせ実行していたとし、実運用でLLMに問い合わせるマルウェアを初めて観測したと報告した。また、Gemini APIに自分のソースコードの難読化・書き換えを依頼するVBScriptのドロッパーPROMPTFLUXも確認したが、開発・試験段階で、現時点では被害を与える能力はないと評価した。", "cause": "攻撃者による生成AI（API）の悪用（GTIG）。", "impact": "PROMPTSTEALは実際の攻撃で観測、PROMPTFLUXは実験段階（GTIG）。", "response": "PROMPTFLUXに関連する資産を無効化し、分類器とモデルを強化（Google）。", "prevention": "端末から生成AIのAPIへ通信する必要がある業務かを見直し、想定外のAPI通信や、プログラムに埋め込まれたAPIキーを監視する。", "sources": [ { "kind": "primary", "publisher": "Google Threat Intelligence Group（Google Cloud Blog）", "title": "GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools", "url": "https://cloud.google.com/blog/topics/threat-intelligence/threat-actor-usage-of-ai-tools", "date": "2025-11" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-11-php-panasonic-konosuke-matsushita-ai-synthesized-videos", "url": "https://aisec-note.jp/incidents/2025-11/#2025-11-php-panasonic-konosuke-matsushita-ai-synthesized-videos", "title": "故・松下幸之助氏の画像や音声をAIで合成した偽動画がSNSで拡散、PHP研究所とパナソニックHDが注意喚起", "published": "2025-11", "occurred": null, "organization": "株式会社PHP研究所／パナソニック ホールディングス株式会社", "org_type": "企業", "country": "日本", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "PHP研究所は、創設者でパナソニックグループ創業者の故・松下幸之助氏の画像や音声をAI技術で不正に合成した動画が、インターネット上で出回っていることを確認したと公表した。本人の言動・人柄をゆがめる内容を含む場合があり、違法な可能性が高いとして、見つけしだい調査・記録し、プラットフォームへの削除申立てや法的措置を検討するとした。パナソニック ホールディングスも2025年11月21日、YouTubeをはじめとするSNSで同様の動画が拡散していることを確認したとして注意を呼びかけ、同社がPHP研究所と共同開発している「松下幸之助」再現AIとも関係がないと説明した。", "cause": "公表なし", "impact": "金銭被害の記載なし。実際の発言に基づかない誤った情報や、肖像・発言を無断で使ったものを含む動画が拡散している（パナソニックHD）。", "response": "PHP研究所は継続的な監視、該当コンテンツの調査・記録、削除申立てと法的措置の検討、パナソニックや関係団体への注意喚起の依頼を表明。利用者には、閲覧・共有・転載をせず、プラットフォームの通報フォームや同研究所の専用フォームで知らせるよう求めた。", "prevention": "経営者や創業者の映像・声が公開されている会社は、AIで合成した偽動画が出回る前提で、公式に否定する場所、通報の受付窓口、プラットフォームへの削除申立ての手順を決めておく。", "sources": [ { "kind": "primary", "publisher": "株式会社PHP研究所", "title": "松下幸之助の偽造（AI合成）動画についての重要なお知らせ", "url": "https://www.php.co.jp/news/info/article-40338.php", "date": "2025-11-01" }, { "kind": "primary", "publisher": "松下幸之助.com（PHP研究所）", "title": "松下幸之助の偽造（AI合成）動画についての重要なお知らせ", "url": "https://konosuke-matsushita.com/news/media/20251111oshirase.php", "date": "2025-11-11" }, { "kind": "primary", "publisher": "パナソニック ホールディングス株式会社", "title": "創業者 松下幸之助のAI合成動画にご注意ください", "url": "https://holdings.panasonic/jp/information/topics/20251121.html", "date": "2025-11-21" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-10-github-copilot-chat-camoleak", "url": "https://aisec-note.jp/incidents/2025-10/#2025-10-github-copilot-chat-camoleak", "title": "GitHub Copilot Chatで、PRに隠した指示により非公開リポジトリのコードや秘密情報を引き出せる脆弱性「CamoLeak」（Legit Security報告）", "published": "2025-10-08", "occurred": null, "organization": "GitHub（Microsoft）", "org_type": "AI事業者", "country": "米国", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "GitHub Copilot Chat", "summary": "Legit Securityの研究者は、プルリクエストの説明文に見えないコメントで指示を隠しておくと、被害者がそのPRについてCopilot Chatに質問したときに被害者の権限で指示が実行され、GitHub自身の画像プロキシ（Camo）を経由して非公開リポジトリのソースコードやシークレットを外部に送らせられることを示した。深刻度はCVSS 9.6とされた。GitHubはCopilot Chatでの画像表示を無効化して対処した。", "cause": "PRの説明文などに埋め込まれた指示による間接プロンプトインジェクションと、GitHubの画像プロキシを使ったCSPの回避（Legit Security）。", "impact": "非公開リポジトリのソースコードやシークレット、非公開issueの内容が漏えいし得た。実際の悪用の有無は公表なし。", "response": "GitHubは2025年8月14日までにCopilot Chatでの画像表示を完全に無効化した（Legit Security）。", "prevention": "コードレビューにAIを使うときは、外部からのPRやissueの文面も攻撃者が書いた入力として扱い、AIが外部と通信できる経路を絞る。", "sources": [ { "kind": "primary", "publisher": "Legit Security", "title": "CamoLeak: Critical GitHub Copilot Vulnerability Leaks Private Source Code", "url": "https://www.legitsecurity.com/blog/camoleak-critical-github-copilot-vulnerability-leaks-private-source-code", "date": "2025-10-08" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-10-nsw-reconstruction-authority-contractor-uploaded-data-to-chatgpt", "url": "https://aisec-note.jp/incidents/2025-10/#2025-10-nsw-reconstruction-authority-contractor-uploaded-data-to-chatgpt", "title": "豪ニューサウスウェールズ州復興庁の元委託業者が、洪水被災者向け事業の個人情報をChatGPTにアップロード", "published": "2025-10-06", "occurred": "2025-03-12", "organization": "NSW Reconstruction Authority（ニューサウスウェールズ州復興庁）", "org_type": "自治体・行政", "country": "オーストラリア", "category": "input-leak", "category_label": "生成AIへの入力による漏洩", "ai_tool": "ChatGPT", "summary": "NSW州復興庁は、北部河川地域の住宅支援事業（Resilient Homes Program）の元委託業者が、2025年3月12〜15日に、庁が認めていないAIプラットフォームであるChatGPTへ、申請者の個人情報を含むExcelファイル（10列、1万2,000行超）をアップロードしたと公表した。最大3,000人が影響を受けた可能性がある。", "cause": "元委託業者が、承認されていないAIプラットフォーム（ChatGPT）に個人情報をアップロードした（同庁）。", "impact": "最大3,000人。氏名・住所、メールアドレス、電話番号、その他の個人情報や健康情報。公開や第三者アクセスの証拠はないが、可能性は否定できないとしている。", "response": "Cyber Security NSWによる調査とフォレンジック、インターネットとダークウェブの監視、ID Support NSWによる対象者支援、州プライバシーコミッショナーへの通知、職員向け指針の発出、独立レビューの開始、身分証の再発行費用の補償。", "prevention": "委託先や契約者も含めて使ってよいAIを明示し、個人情報を含むファイルの外部サービスへのアップロードを技術的に制限する。", "sources": [ { "kind": "primary", "publisher": "NSW Reconstruction Authority（NSW Government）", "title": "Northern Rivers Resilient Homes Program data breach", "url": "https://www.nsw.gov.au/departments-and-agencies/nsw-reconstruction-authority/media-releases/northern-rivers-resilient-homes-program-data-breach", "date": "2025-10-06" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-09-salesforce-agentforce-forcedleak", "url": "https://aisec-note.jp/incidents/2025-09/#2025-09-salesforce-agentforce-forcedleak", "title": "Salesforce Agentforceに、問い合わせフォーム経由の間接プロンプトインジェクションでCRMデータを外部送信させ得る脆弱性「ForcedLeak」（Noma Security報告）", "published": "2025-09-25", "occurred": null, "organization": "Salesforce", "org_type": "AI事業者", "country": "米国", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "Salesforce Agentforce", "summary": "Noma Securityは、攻撃者がWeb-to-Leadフォームに隠した指示を送っておくと、社員が後でそのリードについてAgentforceに尋ねたときに指示が実行され、CRMデータを外部に送らせられる脆弱性チェーンを公表した。外部送信には、CSPの許可リストに残っていた期限切れドメインを使った。深刻度はCVSS 9.4とされた。", "cause": "間接プロンプトインジェクションと、許可リストに残っていた期限切れドメイン（my-salesforce-cms.com）を使ったCSPの回避（Noma Security）。", "impact": "顧客の連絡先、営業パイプライン、社内のやり取りなどのCRMデータが漏えいし得た。実際の悪用の有無は公表なし。", "response": "Salesforceが2025年9月8日、AgentforceとEinstein AIの出力を信頼できないURLに送らせない『Trusted URLs Enforcement』を実装し、期限切れドメインを確保した（Noma Security）。", "prevention": "誰でも書き込める入力（問い合わせフォーム等）をAIエージェントが読むときは、その中の指示に従わせない設計にし、出力先URLの許可リストを定期的に点検する。", "sources": [ { "kind": "primary", "publisher": "Noma Security", "title": "ForcedLeak: AI Agent risks exposed in Salesforce AgentForce", "url": "https://noma.security/blog/forcedleak-agent-risks-exposed-in-salesforce-agentforce/", "date": "2025-09-25" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-09-chatgpt-deep-research-shadowleak", "url": "https://aisec-note.jp/incidents/2025-09/#2025-09-chatgpt-deep-research-shadowleak", "title": "ChatGPTのDeep Researchエージェントに、メール1通でGmailの情報をOpenAI側から外部送信させ得る脆弱性「ShadowLeak」（Radware報告）", "published": "2025-09-18", "occurred": null, "organization": "OpenAI", "org_type": "AI事業者", "country": "米国", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "ChatGPT", "summary": "Radwareは、ChatGPTのDeep ResearchエージェントをGmailとWeb閲覧に接続している場合、攻撃者がHTMLに見えない指示を仕込んだメールを1通送るだけで、利用者が何もしなくてもエージェントが受信箱の個人情報などを攻撃者のサーバーに送ってしまう脆弱性を公表した。送信はOpenAIのクラウド側から行われるため、利用者の組織側では検知が難しいとしている。", "cause": "メールのHTMLに隠した指示による間接プロンプトインジェクション（Radware）。", "impact": "Gmailなど接続したデータの情報が漏えいし得た。Radwareは実際の悪用は確認していないとしている（The Record）。", "response": "Radwareは2025年6月18日にOpenAIへ報告した。報道（The Record）によると、OpenAIは8月上旬までに修正し、9月3日に解決済みとした。", "prevention": "AIエージェントにメールなどの社内データとWeb閲覧を同時に許可するときは、扱うデータの範囲と外部アクセス先を絞る。", "sources": [ { "kind": "primary", "publisher": "Radware", "title": "ShadowLeak: A Zero-Click, Service-Side Attack Exfiltrating Sensitive Data Using ChatGPT’s Deep Research Agent", "url": "https://www.radware.com/blog/threat-intelligence/shadowleak/", "date": "2025-09-18" }, { "kind": "report", "publisher": "The Record（Recorded Future News）", "title": "OpenAI fixes zero-click ShadowLeak vulnerability affecting ChatGPT Deep Research agent", "url": "https://therecord.media/openai-fixes-zero-click-shadowleak-vulnerability", "date": "2025-09-18" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-08-anthropic-claude-code-data-extortion", "url": "https://aisec-note.jp/incidents/2025-08/#2025-08-anthropic-claude-code-data-extortion", "title": "Anthropic、Claude Codeを使って少なくとも17組織からデータを盗み恐喝した事例などを検知・遮断したと公表", "published": "2025-08-27", "occurred": null, "organization": "Anthropic", "org_type": "AI事業者", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "Claude Code", "summary": "Anthropicの脅威報告（2025年8月）によると、サイバー犯罪者がClaude Codeで偵察、認証情報の収集、ネットワークへの侵入を自動化し、医療、緊急サービス、政府・宗教機関などの少なくとも17組織からデータを盗み、公開すると脅して身代金を要求した。要求額は50万ドルを超えることもあった。同じ報告は、北朝鮮の工作員がClaudeを使って米大手テック企業のリモート職を得ていた事例や、Claudeでランサムウェアを開発・販売していた事例も挙げている。", "cause": "Claude Codeの悪用（Anthropic）。", "impact": "少なくとも17組織（組織名は公表なし）。", "response": "関連アカウントの停止、専用の分類器と新しい検知方法の構築、技術的な指標を関係当局と共有。", "prevention": "暗号化を伴わない『盗んで公開すると脅す』型の恐喝も想定し、データの持ち出し検知とアクセス権限の最小化を進める。", "sources": [ { "kind": "primary", "publisher": "Anthropic", "title": "Detecting and countering misuse of AI: August 2025", "url": "https://www.anthropic.com/news/detecting-countering-misuse-aug-2025", "date": "2025-08-27" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-08-nx-s1ngularity-malicious-packages-abused-ai-cli", "url": "https://aisec-note.jp/incidents/2025-08/#2025-08-nx-s1ngularity-malicious-packages-abused-ai-cli", "title": "ビルドツール「Nx」の悪意ある版がnpmに公開、ローカルのAIツールを使って機密情報を探す処理を含む", "published": "2025-08-27", "occurred": "2025-08-26", "organization": "Nx（Nrwl）", "org_type": "企業", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "AIコーディングCLI（ClaudeやGeminiなど）", "summary": "ビルドツールNxと関連プラグインの悪意ある版がnpmに公開され、インストール時に実行されるスクリプトがファイルを探して認証情報などを集め、被害者のGitHubアカウントに『s1ngularity-repository』を含む名前の公開リポジトリを作って送り出した。Nxの事後報告によると、このスクリプトはClaudeやGeminiなどのローカルAIツールを使おうとした。", "cause": "GitHub ActionsのPRタイトル検証ワークフローにコマンドインジェクションの欠陥があり（pull_request_targetで高い権限で実行）、それを足がかりにnpmの公開用トークンが盗まれた（Nxのセキュリティ勧告）。", "impact": "影響版はnx 20.9.0〜20.12.0、21.5.0〜21.8.0と一部プラグイン。漏えいした件数はこの勧告では公表なし。", "response": "悪意ある版の削除、npmへの公開を2FA必須とtrusted publishingに変更、トークンとシークレットの総入れ替え、脆弱なワークフローの除去。利用者に認証情報のローテーション等を案内。", "prevention": "開発端末のAIコーディングCLIに、確認なしでコマンドを実行できる広い権限を与えない。依存パッケージのインストールスクリプトの実行を制限し、トークンは短期・最小権限にする。", "sources": [ { "kind": "primary", "publisher": "Nx（GitHubセキュリティ勧告 GHSA-cxm3-wv7p-598c）", "title": "Malicious versions of Nx and some supporting plugins were published", "url": "https://github.com/nrwl/nx/security/advisories/GHSA-cxm3-wv7p-598c", "date": "2025-08-27" }, { "kind": "primary", "publisher": "Nx", "title": "S1ngularity - What Happened, How We Responded, What We Learned", "url": "https://nx.dev/blog/s1ngularity-postmortem", "date": "2025-09-05" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-08-kabuand-ai-synthesized-fake-video-ads-of-ceo", "url": "https://aisec-note.jp/incidents/2025-08/#2025-08-kabuand-ai-synthesized-fake-video-ads-of-ceo", "title": "カブアンドと代表の前澤友作氏を騙る偽の動画広告が急増、AIで顔や音声を合成したような動画で投資詐欺に誘導", "published": "2025-08-06", "occurred": null, "organization": "株式会社カブアンド", "org_type": "企業", "country": "日本", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "カブアンドは公式サイトの社長記事で、SNS上で「前澤友作」や「カブアンド」を騙る偽の動画広告が急増しているとして注意を呼びかけた。一部の広告では顔や音声をAIで合成したような動画が使われ、本人が直接呼びかけているように見せかけている。カブアンドを名乗って、存在しない投資案件や高額リターンをうたい、個人情報や金銭をだまし取ろうとする詐欺も確認されているという。", "cause": "公表なし", "impact": "被害件数・被害額の記載なし。", "response": "同社チームがSNS事業者に削除を繰り返し申し入れているが、広告の量が多く削除が追いつかないと説明。Meta（Facebook、Instagram）を相手取った訴訟が進行中とした。利用者には各SNSの「広告を報告」機能での通報を求め、新しいプロジェクトや投資の話は公式SNSと公式サイトでのみ告知するとした。", "prevention": "著名な経営者がいる会社は、経営者本人がSNS広告やメッセージで投資を勧めることはないと明言し、公式の告知経路を決めて周知しておく。顧客や社員には、動画や声だけで本人と判断しないよう伝える。", "sources": [ { "kind": "primary", "publisher": "株式会社カブアンド", "title": "前澤やカブアンドを騙る「偽の動画広告」について注意喚起とお願い", "url": "https://kabuand.com/mz/articles/1f3xtkbkq6s15t0d06c7wv7srg", "date": "2025-08-06" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-08-fake-police-video-call-ai-generated-face", "url": "https://aisec-note.jp/incidents/2025-08/#2025-08-fake-police-video-call-ai-generated-face", "title": "ビデオ通話で警察官役の顔をAIで生成して現金をだまし取った特殊詐欺の被疑者を6県警が逮捕", "published": "2025-08", "occurred": "2024-10", "organization": "愛知県警など6県警", "org_type": "捜査・規制当局", "country": "日本", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "警察庁の令和8年上半期の報告によると、被疑者らは2024年10月頃から2025年5月頃まで、海外の特殊詐欺拠点から日本国内の被害者に電話やSNSの通話機能で連絡し、『マネー・ローンダリング事件に関与している嫌疑があるため、預貯金の流れを確認する必要がある』などとうそを言って現金をだまし取っていた。警察官役はSNSのビデオ通話で制服のようなものを着て偽の警察手帳を見せ、顔が識別されないようAIで生成した顔を使っていた。", "cause": "公表なし", "impact": "公表なし（被害件数・被害額の記載なし）", "response": "警察の情報提供に基づき海外当局が犯行拠点を摘発し、2025年8月に身柄の引き渡しを受けて逮捕（警察庁資料）。", "prevention": "警察がビデオ通話で警察手帳を見せて捜査したり、預貯金の確認や送金を求めたりすることはないと社内外に周知する。お金の話が出たら通話を切り、家族や公式窓口に確認する。", "sources": [ { "kind": "primary", "publisher": "警察庁", "title": "令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R8kami/R08_kami_cyber_jousei.pdf", "date": "2026-09-10" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-07-amazon-q-developer-vscode-extension-malicious-code", "url": "https://aisec-note.jp/incidents/2025-07/#2025-07-amazon-q-developer-vscode-extension-malicious-code", "title": "AWSのAIコーディング支援拡張「Amazon Q Developer」（VS Code版1.84.0）に第三者のコードが混入して配布", "published": "2025-07-23", "occurred": null, "organization": "Amazon Web Services", "org_type": "AI事業者", "country": "米国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "Amazon Q Developer（VS Code拡張）", "summary": "AWSは、VS Code向けAmazon Q Developer拡張機能のバージョン1.84.0に、脅威アクターがオープンソースのリポジトリにコミットした悪意あるコードが含まれたまま配布されたと公表した。コードは構文エラーのため実行されず、AWSのサービスや顧客環境に変更はなかったとしている。", "cause": "CodeBuildの設定にあった、権限が広すぎるGitHubトークンにより、脅威アクターがリポジトリにコミットできた（AWS）。", "impact": "悪意あるコードは配布されたが実行されなかった（AWS）。", "response": "資格情報の失効・交換、悪意あるコードの削除、1.85.0の公開と1.84.0の配布停止。利用者に1.84.0の削除と更新を案内。", "prevention": "AIコーディング支援ツールも開発基盤のソフトウェア供給網の一部として扱い、拡張機能のバージョンと自動更新の方針を管理する。", "sources": [ { "kind": "primary", "publisher": "Amazon Web Services", "title": "Security Update for Amazon Q Developer Extension for Visual Studio Code (Version #1.84)", "url": "https://aws.amazon.com/security/security-bulletins/AWS-2025-015/", "date": "2025-07-23" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-07-paradox-ai-mchire-default-password-exposure", "url": "https://aisec-note.jp/incidents/2025-07/#2025-07-paradox-ai-mchire-default-password-exposure", "title": "マクドナルドの採用チャットボット基盤（Paradox.ai）に初期パスワードとIDORの欠陥、応募者情報が閲覧可能な状態だった", "published": "2025-07", "occurred": "2025-06-30", "organization": "Paradox.ai（McHire）", "org_type": "AI事業者", "country": "米国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "Paradox.ai（採用チャットボット）", "summary": "セキュリティ研究者2人は、マクドナルドのフランチャイズ店の多くが使う採用サイトMcHire（Paradox.ai製のAIチャットボット）で、管理画面のテスト用アカウントに初期値のパスワードでログインでき、さらにAPIの認可不備（IDOR）で他の応募者のチャットや連絡先を取得できたと公表した。研究者は6,400万件を超える応募者の個人データに到達しえたとしている。報道（WIRED）によると、Paradox.aiは、研究者が閲覧したのは7件で、研究者以外のアクセスはなかったとしている。", "cause": "管理画面のテスト用アカウントの初期資格情報（123456:123456）と、内部APIのIDOR（研究者の報告）。", "impact": "研究者の報告では、氏名・メールアドレス・電話番号・住所、応募状況、応募者としてログインできる認証トークン等に到達し得た（6,400万件超）。Paradox.aiは研究者以外のアクセスはなかったとしている（WIRED）。", "response": "2025年6月30日の報告当日に資格情報が使えなくなり、7月1日にParadox.aiが修正完了を確認（研究者）。Paradox.aiはバグバウンティ制度の導入を表明（WIRED）。", "prevention": "AIを組み込んだ外部サービスでも、初期パスワードや認可不備のような従来型の欠陥が大きな露出につながる。委託先に不要なテストアカウントの棚卸しと多要素認証を求める。", "sources": [ { "kind": "primary", "publisher": "Ian Carroll・Sam Curry（研究者）", "title": "Would you like an IDOR with that? Leaking 64 million McDonald's job applications", "url": "https://ian.sh/mcdonalds" }, { "kind": "report", "publisher": "WIRED", "title": "McDonald’s AI Hiring Bot Exposed Millions of Applicants’ Data to Hackers Who Tried the Password ‘123456’", "url": "https://www.wired.com/story/mcdonalds-ai-hiring-chat-bot-paradoxai/", "date": "2025-07-09" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-06-microsoft-365-copilot-echoleak-cve-2025-32711", "url": "https://aisec-note.jp/incidents/2025-06-microsoft-365-copilot-echoleak-cve-2025-32711/", "title": "Microsoft 365 Copilotに、メールを受け取るだけで社内データを外部送信させ得る脆弱性「EchoLeak」（CVE-2025-32711）", "published": "2025-06-11", "occurred": null, "organization": "Microsoft", "org_type": "AI事業者", "country": "米国", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "Microsoft 365 Copilot", "summary": "Aim Security（Aim Labs）は、攻撃者がメールを送るだけで、利用者が何もしなくてもMicrosoft 365 Copilotが参照できる社内データを外部へ送らせる攻撃チェーン『EchoLeak』を見つけ、Microsoftに報告した。Microsoftは『M365 CopilotにおけるAIコマンドインジェクション』としてCVE-2025-32711を公表した。", "cause": "外部から届いたメールに書かれた指示がCopilotに取り込まれて実行される間接プロンプトインジェクション。Aimは、プロンプトインジェクション対策の分類器（XPIA）の回避などを組み合わせた連鎖を示し、『LLMスコープ違反』と名付けた。", "impact": "CVSS 3.1基本値9.3（Microsoftの評価）。Aimによれば、Microsoftは影響を受けた顧客はいないとしている。", "response": "MicrosoftがCVEを公表し対処。Aimは、外部メールを除外するDLPタグなどの設定も紹介している。", "prevention": "AIアシスタントが外部メールや外部文書を読み込む範囲を設定で絞り、機密ラベルやDLPで参照対象を管理する。", "sources": [ { "kind": "primary", "publisher": "NIST NVD（CNA：Microsoft）", "title": "CVE-2025-32711", "url": "https://nvd.nist.gov/vuln/detail/CVE-2025-32711", "date": "2025-06-11" }, { "kind": "primary", "publisher": "Aim Security（Aim Labs）", "title": "Breaking down ‘EchoLeak’, the First Zero-Click AI Vulnerability Enabling Data Exfiltration from Microsoft 365 Copilot", "url": "https://www.aim.security/lp/aim-labs-echoleak-blogpost", "date": "2025-06-11", "archive_url": "https://web.archive.org/web/20250616001121/https://www.aim.security/lp/aim-labs-echoleak-blogpost" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-06-osaka-phishing-site-modified-with-generative-ai", "url": "https://aisec-note.jp/incidents/2025-06/#2025-06-osaka-phishing-site-modified-with-generative-ai", "title": "大手ECサイトを装うフィッシングサイトを生成AIで改修していた男らを大阪府警が逮捕", "published": "2025-06", "occurred": "2024-06", "organization": "大阪府警察", "org_type": "捜査・規制当局", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "警察庁の令和7年の報告によると、無職の男（36）らは2024年6月と9月に大手ECサイトを装ったフィッシングサイトを公開し、同年11月に不正に取得した他人の識別符号（ID・パスワード等）を保管した。サイトを作る際に生成AIを悪用して改修していたことが判明しており、大阪府警は日本サイバー犯罪対策センター（JC3）の協力を得て2025年6月、不正アクセス禁止法違反（識別符号の入力要求・保管）で逮捕した。", "cause": "公表なし", "impact": "公表なし（警察庁資料に件数の記載なし）", "response": "大阪府警が2025年6月に逮捕（警察庁資料）。", "prevention": "生成AIで偽サイトの見た目や日本語が自然になっている前提で、URLの確認やパスキー・多要素認証の利用を利用者に勧める。", "sources": [ { "kind": "primary", "publisher": "警察庁", "title": "令和７年におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf", "date": "2026-03" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-05-india-support-scam-generative-ai", "url": "https://aisec-note.jp/incidents/2025-05/#2025-05-india-support-scam-generative-ai", "title": "日本人を狙ったサポート詐欺でインドの被疑者6人を逮捕、標的の特定や偽警告画面の作成・翻訳に生成AIを使用", "published": "2025-05", "occurred": null, "organization": "警察庁・インド中央捜査局（CBI）", "org_type": "捜査・規制当局", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "警察庁の令和7年の報告によると、日本警察とインド中央捜査局（CBI）が日本人を標的としたサポート詐欺事件を国際共同捜査し、2025年5月にCBIがインド国内でインド人被疑者6人を逮捕した。被疑者グループは生成AIを悪用し、標的の特定、ポップアップウィンドウの作成、日本語への翻訳を行っていた。捜査にはJC3やMicrosoftも協力した。", "cause": "公表なし", "impact": "被害額の記載なし。検挙後の2025年6月にIPAに寄せられた『ウイルス検出の偽警告』の相談は85件で、大幅に減少した（警察庁資料）。", "response": "CBIが2025年5月に6人を逮捕。2026年1月に警察庁サイバー捜査課長がCBIに感謝状を手交（警察庁資料）。", "prevention": "ブラウザに出る『ウイルス検出』の警告や電話番号を信じず、遠隔操作ソフトの導入や電子マネーの購入を求められても応じない。社内では偽警告が出たときの連絡先を決めておく。", "sources": [ { "kind": "primary", "publisher": "警察庁", "title": "令和７年におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf", "date": "2026-03" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-02-microsoft-storm-2139-generative-ai-abuse", "url": "https://aisec-note.jp/incidents/2025-02/#2025-02-microsoft-storm-2139-generative-ai-abuse", "title": "Microsoft、盗んだ顧客の認証情報で生成AIサービス（Azure OpenAI等）を悪用していた犯罪ネットワーク「Storm-2139」を提訴", "published": "2025-02-27", "occurred": null, "organization": "Microsoft", "org_type": "AI事業者", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "Azure OpenAI Service ほか", "summary": "MicrosoftのDigital Crimes Unitは、公開情報から集めた顧客の認証情報を悪用して生成AIサービスのアカウントに入り、機能を改変したうえでアクセス権を他の犯罪者に転売し、著名人の性的画像など有害なコンテンツの生成方法を提供していたとするネットワーク『Storm-2139』について、2024年12月に提訴し、2025年2月の修正訴状で4人を特定したと公表した。", "cause": "公開されていた顧客の認証情報の悪用（Microsoft）。", "impact": "被害を受けた顧客数は公表なし。", "response": "米バージニア州東部地区連邦地裁への提訴、一時差止命令による中核ウェブサイトの差押え、米国内外の法執行機関への刑事告発の準備。", "prevention": "生成AIのAPIキーをコードや公開リポジトリに置かず、利用量の急増など異常な使われ方を監視する。", "sources": [ { "kind": "primary", "publisher": "Microsoft（Microsoft On the Issues）", "title": "Disrupting a global cybercrime network abusing generative AI", "url": "https://blogs.microsoft.com/on-the-issues/2025/02/27/disrupting-cybercrime-abusing-gen-ai/", "date": "2025-02-27" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-02-teens-esim-fraud-generative-ai", "url": "https://aisec-note.jp/incidents/2025-02/#2025-02-teens-esim-fraud-generative-ai", "title": "中高生の少年3人が他人のIDで楽天モバイルのeSIMを不正に取得（生成AIの悪用も判明）", "published": "2025-02", "occurred": "2024-05", "organization": "楽天モバイル株式会社", "org_type": "企業", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "警察庁の報告によると、SNSで知り合った中高生の少年3人（14〜16歳）は、2024年5月から8月にかけて、不正に入手した他人のIDとパスワードで電気通信事業者のサーバーに不正アクセスしてeSIMを不正に取得したとして、2025年1月から2月にかけて警視庁に逮捕された。報告は、この事件で生成AIを悪用した事実も判明したとしている。総務省は2025年8月、楽天モバイルに対し、少年らの犯行グループが2023年11月から2025年2月にかけて有効なIDとパスワードを入手し、本人確認書類なしで2回線目以降のeSIMを申し込める仕組みを悪用して不正に契約した事案などについて指導した。警察庁の報告は事業者名を伏せているが、期間・サービス（eSIM）・手口（2回線目以降をIDとパスワードだけで申し込める仕組みの悪用）が総務省の指導文書と一致する。", "cause": "2回線目以降のeSIMを、IDとパスワードの入力だけで（本人確認書類なしに）申し込める仕組みが悪用された（総務省・警察庁）。生成AIをどう悪用したかは公表されていない。", "impact": "少なくとも7,002回線（4,609人）分の有効なIDとパスワードが犯行グループに入手されていた（総務省）。これらのIDで利用者専用ページ「my楽天モバイル」にログインでき、通話先の電話番号などが閲覧できる状態だったとして、総務省は通信の秘密の漏えいと認定した。", "response": "総務省は2025年8月19日、漏えいの報告の遅れなどについて楽天モバイルを文書で指導した（総務省）。警視庁が2025年1〜2月に3人を逮捕し、同じ手口をまねた少年2人も同年3月と8月に逮捕された（警察庁の報告）。", "prevention": "契約の追加や重要な設定変更には、IDとパスワード以外の本人確認（多要素認証など）を求める。使い回しのパスワードを狙った攻撃を想定し、ログインの試行を監視・制限する。", "sources": [ { "kind": "primary", "publisher": "総務省", "title": "通信の秘密の保護、漏えい報告書の提出及びコンプライアンス・リスク管理体制構築の徹底について（指導）", "url": "https://www.soumu.go.jp/main_content/001024708.pdf", "date": "2025-08-19" }, { "kind": "primary", "publisher": "警察庁", "title": "令和７年におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf", "date": "2026-03" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2025-01-deepseek-clickhouse-database-exposure", "url": "https://aisec-note.jp/incidents/2025-01/#2025-01-deepseek-clickhouse-database-exposure", "title": "DeepSeekのデータベースが認証なしで外部から見える状態、チャット履歴やAPIの秘密情報を含むログが閲覧可能だった（Wiz報告）", "published": "2025-01-29", "occurred": null, "organization": "DeepSeek", "org_type": "AI事業者", "country": "中国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "DeepSeek", "summary": "米Wiz Researchは、中国のAI企業DeepSeekのClickHouseデータベースがインターネットから認証なしでアクセスできる状態だったと公表した。ログにはチャット履歴、APIの秘密情報、バックエンドの詳細、運用上のメタデータなどが含まれていた。Wizの通知を受け、DeepSeekは速やかに公開状態を解消した。", "cause": "ClickHouseのデータベースが認証なしで外部公開されていた（Wiz）。DeepSeekによる原因の説明は公表なし。", "impact": "100万件を超えるログ（2025年1月6日以降のタイムスタンプ）。第三者がアクセスしたかどうかは公表なし。", "response": "Wizの通知後にDeepSeekが公開状態を解消（Wiz）。DeepSeek自身の公表は確認できなかった。", "prevention": "新しいAIサービスを業務で使う前に、データの保存場所、管理体制、インシデント時の公表姿勢を確認し、機密を入力しない利用範囲を決めておく。", "sources": [ { "kind": "primary", "publisher": "Wiz Research", "title": "Wiz Research Uncovers Exposed DeepSeek Database Leaking Sensitive Information, Including Chat History", "url": "https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak", "date": "2025-01-29" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-09-fcc-fine-ai-voice-clone-election-robocalls", "url": "https://aisec-note.jp/incidents/2024-09/#2024-09-fcc-fine-ai-voice-clone-election-robocalls", "title": "米大統領の声をAIで複製した選挙妨害の自動音声電話に、FCCが600万ドルの制裁金", "published": "2024-09-26", "occurred": "2024-01", "organization": "米連邦通信委員会（FCC）", "org_type": "捜査・規制当局", "country": "米国", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "2024年1月のニューハンプシャー州大統領予備選の2日前、バイデン大統領の声をAIで複製した音声で投票しないよう呼びかける、発信者番号を偽装した自動音声電話が有権者に送られた。FCCは2024年9月26日、この電話を指示した政治コンサルタントに600万ドルの制裁金を科すと決定し、通話を伝送した通信事業者とは100万ドルで和解した。", "cause": "生成AIによる音声クローンと発信者番号の偽装（FCC）。", "impact": "公表なし（ニュースリリースに通話件数の記載なし）。", "response": "FCCが制裁金を決定（30日以内に支払わなければ司法省に回付）。ニューハンプシャー州司法長官は州法上の有権者抑圧等で起訴。FCCは、AIで生成した音声の通話にも電話消費者保護法（TCPA）の規制が及ぶことを確認している。", "prevention": "よく知った人や公的機関の声でも、音声だけで本物と判断しない。重要な指示は別の経路で確かめる。", "sources": [ { "kind": "primary", "publisher": "Federal Communications Commission", "title": "FCC Fines Man Behind Election Interference Scheme $6 Million for Sending Illegal Robocalls That Used Deepfake Generative AI Technology", "url": "https://docs.fcc.gov/public/attachments/DOC-405811A1.pdf", "date": "2024-09-26" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-08-slack-ai-indirect-prompt-injection", "url": "https://aisec-note.jp/incidents/2024-08/#2024-08-slack-ai-indirect-prompt-injection", "title": "Slack AIに間接プロンプトインジェクションの問題、参加していない非公開チャンネルのデータを引き出せる可能性（PromptArmor報告）", "published": "2024-08-20", "occurred": null, "organization": "Slack（Salesforce）", "org_type": "AI事業者", "country": "米国", "category": "vulnerability", "category_label": "プロンプトインジェクション・AIの脆弱性", "ai_tool": "Slack AI", "summary": "PromptArmorは、同じワークスペースにいる攻撃者が自分だけの公開チャンネルに悪意ある指示を書いておくと、被害者がSlack AIに質問した際にその指示が取り込まれ、被害者の非公開チャンネルにあるAPIキーなどをURLに含めたリンクを表示させられると報告した。Slackは、非常に限定的な条件下で同じワークスペースの攻撃者がフィッシングによりデータを取得できる問題だったとして、2024年8月20日にパッチを適用したと公表した。", "cause": "Slack AIが公開チャンネルの投稿を文脈に取り込み、その中の指示に従ってしまう間接プロンプトインジェクション（PromptArmor）。", "impact": "顧客データへの不正アクセスの証拠は現時点でない（Slack）。PromptArmorは、2024年8月14日からSlack AIがアップロードされたファイルも取り込むようになり、攻撃面が広がったと指摘した。", "response": "2024年8月20日にパッチを適用（Slack）。PromptArmorによると、報告当初Slackは『意図された動作』と回答していた。", "prevention": "社内チャットのAI機能が参照する範囲（ファイル取り込みなど）を管理者設定で見直し、AIが提示したリンクを無条件に開かない。", "sources": [ { "kind": "primary", "publisher": "PromptArmor", "title": "Data Exfiltration from Slack AI via indirect prompt injection", "url": "https://promptarmor.substack.com/p/data-exfiltration-from-slack-ai-via", "date": "2024-08-20" }, { "kind": "primary", "publisher": "Slack", "title": "Slack Security Update（日本語版ページ）", "url": "https://slack.com/intl/ja-jp/blog/news/slack-security-update-082124", "date": "2024-08-21" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-07-knowbe4-north-korean-fake-it-worker", "url": "https://aisec-note.jp/incidents/2024-07/#2024-07-knowbe4-north-korean-fake-it-worker", "title": "KnowBe4、AIで加工した写真と盗まれた身元で応募した北朝鮮の偽IT人材を採用、支給PCでマルウェアの読み込みを検知", "published": "2024-07-23", "occurred": "2024-07-15", "organization": "KnowBe4", "org_type": "企業", "country": "米国", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "セキュリティ教育企業のKnowBe4は、社内のIT AIチーム向けに採用したソフトウェアエンジニアが、盗まれた米国人の身元とAIで加工した写真を使った北朝鮮の偽IT人材だったと公表した。4回のビデオ面接、身元調査、照会を通過していた。支給したMacが届くとすぐにマルウェアの読み込みが始まり、2024年7月15日にEDRが検知してSOCが端末を隔離した。", "cause": "採用選考での身元詐称（盗まれた身元とAIで加工した写真）。", "impact": "KnowBe4のシステムで不正アクセス、データの損失・流出はなかったとしている。", "response": "端末の隔離、MandiantとFBIへの情報提供、採用プロセスの見直し。", "prevention": "リモート採用では本人確認を強め、新しく入った人の端末と権限は段階的に与えて監視する。", "sources": [ { "kind": "primary", "publisher": "KnowBe4", "title": "How a North Korean Fake IT Worker Tried to Infiltrate Us", "url": "https://blog.knowbe4.com/how-a-north-korean-fake-it-worker-tried-to-infiltrate-us", "date": "2024-07-23" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-06-hong-kong-deepfake-video-conference-fraud", "url": "https://aisec-note.jp/incidents/2024-06/#2024-06-hong-kong-deepfake-video-conference-fraud", "title": "本社のCFOを装ったディープフェイクのビデオ会議で、香港の社員が約2億香港ドルを送金", "published": "2024-06-26", "occurred": "2024-01", "organization": "香港特別行政区政府（保安局）", "org_type": "捜査・規制当局", "country": "香港", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "香港政府の立法会での答弁によると、2024年1月末、英国本社の最高財務責任者（CFO）を装ったフィッシングメールをきっかけにグループのビデオ会議に招かれた社員が、指示に従って5つの口座へ合計約2億香港ドルを送金した。香港警察は、会議は公開されている動画と音声をもとに作られた事前録画で、詐欺師と被害者の間に双方向のやり取りはなかったとみている。政府は被害企業の名前を公表していない。", "cause": "CFOを装ったメールと、公開されている映像・音声から作ったとみられる偽のビデオ会議によるなりすまし（香港政府の答弁）。", "impact": "約2億香港ドルの送金（香港政府の答弁）。", "response": "香港警察が捜査。政府は、相手に頭を上下左右に動かしてもらう、会話の内容で確かめる、送金の依頼は電話で確認する、知らない相手からのビデオ通話に出ない、といった見分け方を案内している。", "prevention": "送金や振込先の変更は、ビデオ会議の場で決めず、事前に決めた別の連絡経路で本人に確かめる。一定額以上の送金は複数人で承認する。", "sources": [ { "kind": "primary", "publisher": "香港特別行政区政府", "title": "LCQ9: Combating frauds involving deepfake", "url": "https://www.info.gov.hk/gia/general/202406/26/P2024062600192.htm", "date": "2024-06-26" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-05-hugging-face-spaces-secrets-unauthorized-access", "url": "https://aisec-note.jp/incidents/2024-05/#2024-05-hugging-face-spaces-secrets-unauthorized-access", "title": "Hugging FaceのSpacesに不正アクセス、一部のシークレットが不正に取得された疑い", "published": "2024-05-31", "occurred": null, "organization": "Hugging Face", "org_type": "AI事業者", "country": "米国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "Hugging Face Spaces", "summary": "AIモデル共有基盤のHugging Faceは、アプリ実行環境Spacesへの不正アクセスを検知し、Spacesに保存されたシークレット（APIキーやトークン）の一部に許可なくアクセスされた疑いがあると公表した。影響したシークレットに含まれていたHFトークンを失効し、該当利用者にメールで通知した。", "cause": "不正アクセス（手口は公表なし）", "impact": "一部のSpacesのシークレットへのアクセスが疑われる（件数は公表なし）。", "response": "トークンの失効と利用者への通知、外部のフォレンジック専門家による調査、法執行機関とデータ保護当局への報告、組織トークンの廃止、シークレットへの鍵管理サービス（KMS）の導入、きめ細かいアクセストークンへの移行の推奨。", "prevention": "AI開発基盤に置くAPIキーやトークンは権限と期限を最小にし、事業者から通知が来たらすぐに再発行する。", "sources": [ { "kind": "primary", "publisher": "Hugging Face", "title": "Space secrets leak disclosure", "url": "https://huggingface.co/blog/space-secrets-disclosure", "date": "2024-05-31" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-05-tokyo-police-malware-created-with-generative-ai", "url": "https://aisec-note.jp/incidents/2024-05/#2024-05-tokyo-police-malware-created-with-generative-ai", "title": "生成AIを利用して不正プログラムを作成したとして、警視庁が男を逮捕", "published": "2024-05", "occurred": "2023-03", "organization": "警視庁", "org_type": "捜査・規制当局", "country": "日本", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": null, "summary": "警察庁の報告によると、男（当時25歳）は2023年3月、生成AIを利用して、実行するとファイルのデータを上書きして破壊する機能を持つ不正プログラムを作成した。警視庁は2024年5月、不正指令電磁的記録作成の疑いで男を逮捕した。", "cause": "公表なし（生成AIを利用して作成したとされるが、使われたAIの名称や手口は公表されていない）", "impact": "公表なし", "response": "警視庁が2024年5月に不正指令電磁的記録作成の疑いで逮捕した（警察庁の報告）。", "prevention": "攻撃ツールを作る敷居が下がっている前提で、オフライン（分離）バックアップ、EDR、不審プログラムの実行制御など、ランサムウェアの基本対策を確実にしておく。", "sources": [ { "kind": "primary", "publisher": "警察庁", "title": "令和６年におけるサイバー空間をめぐる脅威の情勢等について", "url": "https://www.npa.go.jp/publications/statistics/cybersecurity/data/R6/R06_cyber_jousei.pdf", "date": "2025-03-13" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-04-lastpass-ceo-audio-deepfake-attempt", "url": "https://aisec-note.jp/incidents/2024-04/#2024-04-lastpass-ceo-audio-deepfake-attempt", "title": "LastPassの従業員にCEOを装った音声ディープフェイクの電話・メッセージ、従業員が応じず被害なし", "published": "2024-04-10", "occurred": null, "organization": "LastPass", "org_type": "企業", "country": "米国", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "LastPassは、従業員がWhatsApp経由で、CEOになりすました脅威アクターから電話、テキスト、少なくとも1件の音声ディープフェイクを含むボイスメールを受け取ったと公表した。業務の連絡手段ではないことや不自然に急かす様子から、従業員はソーシャルエンジニアリングを疑って応じず、社内のセキュリティチームに報告した。", "cause": "公表なし", "impact": "会社への影響はなかった（LastPass）。", "response": "従業員が報告し、同社が事例を公開して注意を呼びかけた。", "prevention": "経営者を名乗る連絡が普段と違う経路で来たら、その時点で疑い、別の経路で本人に確認する。", "sources": [ { "kind": "primary", "publisher": "LastPass", "title": "Attempted Audio Deepfake Call Targets LastPass Employee", "url": "https://blog.lastpass.com/posts/attempted-audio-deepfake-call-targets-lastpass-employee", "date": "2024-04-10" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-03-wrtn-japan-database-misconfiguration-exposed-prompts", "url": "https://aisec-note.jp/incidents/2024-03/#2024-03-wrtn-japan-database-misconfiguration-exposed-prompts", "title": "生成AIサービス「リートン」のデータベース設定不備で、利用者の入力プロンプトや生成結果、メールアドレスなどを外部から取得・編集できる状態だった", "published": "2024-03", "occurred": "2023-11-30", "organization": "株式会社リートンテクノロジーズジャパン", "org_type": "AI事業者", "country": "日本", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "リートン", "summary": "リートンテクノロジーズジャパンは、同社が運営する生成AIサービス「リートン」に技術的な脆弱性があり、特殊な操作でニックネーム、職業、メールアドレス、LINE UID、入力したプロンプト、生成結果を取得・編集できる状態だったと報告した。2023年11月30日に利用者からの通報で発覚し、調査でデータベースシステムの設定の一部に不備があり、外部からデータベースにアクセスできる状態だったことを確認した。2023年12月8日に修正を完了した。", "cause": "データベースシステムの設定の一部に不備があり、特定の操作で外部からデータベースにアクセスできる状態だった（同社）。", "impact": "取得・編集が可能だった項目は、ニックネーム、職業、メールアドレス（メールで登録した場合）、LINE UID（LINEで登録した場合）、入力したプロンプト、生成結果（同社）。対象の件数と、実際に悪用されたかどうかは公表なし。", "response": "2023年12月8日に修正し、外部のセキュリティ専門家の監査で問題がないことを確認。2024年1月23日にデータベースを含むシステム全体を改修。2024年4月からセキュリティコンサルティングを導入し、第三者機関によるセキュリティ強化を行うとした（同社）。", "prevention": "生成AIサービスに入力した内容は、事業者側の設定不備でも外に出ることがある。業務で使うサービスは、運営事業者のセキュリティ体制や第三者監査の有無を確かめ、入力してよい情報の範囲を決めておく。", "sources": [ { "kind": "primary", "publisher": "株式会社リートンテクノロジーズジャパン", "title": "脆弱性解消のご報告及び今後の対応について", "url": "https://wrtn.notion.site/7f4ef7dfcd544c689bd6e040173ad8cc?p=c457a69c24ef45bab427db5b9e69fd08&pm=c", "archive_url": "https://web.archive.org/web/20250303233336/https://wrtn.notion.site/7f4ef7dfcd544c689bd6e040173ad8cc?p=c457a69c24ef45bab427db5b9e69fd08&pm=c" }, { "kind": "report", "publisher": "窓の杜", "title": "「リートン」に脆弱性 ～データベースからユーザー情報を窃取可能な問題を修正", "url": "https://forest.watch.impress.co.jp/docs/news/1577999.html", "date": "2024-03-22" }, { "kind": "report", "publisher": "日経クロステック（piyokango）", "title": "生成AI「リートン」で入力プロンプトが他人に見られる脆弱性、設定不備で", "url": "https://xtech.nikkei.com/atcl/nxt/column/18/00598/021000213/", "date": "2024-04-01" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2024-02-microsoft-openai-state-actors-llm-use", "url": "https://aisec-note.jp/incidents/2024-02/#2024-02-microsoft-openai-state-actors-llm-use", "title": "MicrosoftとOpenAI、ロシア・北朝鮮・イラン・中国の国家支援とみられる5つの攻撃グループによるLLM利用を確認し、アカウントを停止", "published": "2024-02-14", "occurred": null, "organization": "Microsoft・OpenAI", "org_type": "AI事業者", "country": "米国", "category": "misuse", "category_label": "生成AIの悪用（攻撃・犯罪）", "ai_tool": "OpenAIのLLM", "summary": "MicrosoftはOpenAIとの協力により、ロシア軍情報機関に関連するForest Blizzard、北朝鮮のEmerald Sleet、イランのCrimson Sandstorm、中国のCharcoal TyphoonとSalmon Typhoonの5グループが、偵察、スクリプト作成の支援、フィッシング文面の作成、翻訳などにLLMを使っていたと公表した。LLMを使った重大な攻撃や新しい攻撃手法は確認されていないとしている。", "cause": "攻撃者による正規のLLMサービスの利用（Microsoft）。", "impact": "重大な攻撃は確認されず、初期段階の試行と評価（Microsoft）。", "response": "5グループに関連するすべてのアカウントと資産を無効化（Microsoft）。", "prevention": "生成AIで日本語の不自然さが減ったフィッシングを前提に、文面ではなく送信ドメイン認証（DMARC等）やURLで見分ける訓練に切り替える。", "sources": [ { "kind": "primary", "publisher": "Microsoft Threat Intelligence（Microsoft Security Blog）", "title": "Staying ahead of threat actors in the age of AI", "url": "https://www.microsoft.com/en-us/security/blog/2024/02/14/staying-ahead-of-threat-actors-in-the-age-of-ai/", "date": "2024-02-14" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2023-11-ntv-logo-misused-in-ai-fake-video-of-prime-minister", "url": "https://aisec-note.jp/incidents/2023-11/#2023-11-ntv-logo-misused-in-ai-fake-video-of-prime-minister", "title": "岸田首相（当時）の声を加工し日本テレビのニュース画面に見せかけた偽動画がSNSで拡散、日本テレビが抗議", "published": "2023-11-04", "occurred": "2023-11", "organization": "日本テレビ放送網", "org_type": "企業", "country": "日本", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "岸田首相（当時）の声を加工して卑猥な発言をしているように見せかけ、日テレNEWS24の番組ロゴなどを表示してニュース番組を装った偽動画が動画配信サイトに投稿され、SNSで拡散した。日本テレビは自社ニュースで、動画は生成AIの技術を悪用したものとみられると伝え、放送や番組ロゴを悪用されたことは到底許すことはできないとコメントした。", "cause": "公表なし（生成AIの技術を悪用したものとみられる、という日本テレビの見方のみ）", "impact": "公表なし", "response": "日本テレビが抗議のコメントを出し、今後も必要に応じて然るべき対応をとるとした。", "prevention": "自社のロゴや経営者の映像・声が悪用されたときに、公式見解をどこでどう出すかを事前に決めておく。見る側は、公式サイトや公式アカウントで真偽を確認する。", "sources": [ { "kind": "primary", "publisher": "日本テレビ（日テレNEWS NNN）", "title": "“岸田首相の声”のフェイク動画拡散…ニュース画面に見せかけ", "url": "https://news.ntv.co.jp/category/society/a1fb72a672344d2ba8ee08b697ba48de", "date": "2023-11-04" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2023-11-ntv-announcer-ai-voice-fake-investment-ad", "url": "https://aisec-note.jp/incidents/2023-11/#2023-11-ntv-announcer-ai-voice-fake-investment-ad", "title": "日本テレビのニュース番組を改変し、アナウンサーの声をAIで再現したとみられる投資勧誘の偽広告動画がSNSで拡散", "published": "2023-11-01", "occurred": "2023-10", "organization": "日本テレビ放送網", "org_type": "企業", "country": "日本", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "日本テレビが2023年8月に「news every.」で放送したニュースを加工し、アナウンサーが投資サイトへの登録を促しているように見せかけた偽の広告動画が、10月下旬からSNS上で拡散した。日テレNEWSによると、日本テレビの依頼でAIの研究会社が解析した結果、アナウンサーの声は生成AIが本人の声を学習して再現したものとみられ、口元にも編集が加わっている可能性がある。日本テレビは自社サイトで「当社は一切関与しておらず、推奨もしていません」と注意を呼びかけた。", "cause": "公表なし（生成AIでアナウンサーの声を再現したと考えられる、という解析結果のみ）", "impact": "被害件数・被害額の記載なし。", "response": "番組映像の無断使用と内容の改変にあたるとしてSNS運営者に指摘し、動画は順次削除された。自社サイトのトップ画面で注意喚起した（日テレNEWS）。", "prevention": "報道機関や企業は、自社の番組・ロゴ・出演者がAIで改変された広告に使われることを前提に、公式の否定声明の場所とSNS事業者への削除要請の手順を決めておく。見る側は、投資を勧める動画は公式サイトで真偽を確かめる。", "sources": [ { "kind": "primary", "publisher": "日本テレビ（日テレNEWS NNN）", "title": "生成AIでニュースを偽造？　日テレ番組悪用の詐欺広告　一体どうやって？　#みんなのギモン", "url": "https://news.ntv.co.jp/category/society/79f52d1bd558460ca350b160ae7c7b50", "date": "2023-11-01" }, { "kind": "report", "publisher": "INTERNET Watch", "title": "これも生成AI？ 実在するアナウンサーの映像を用いた偽動画が拡散、TV局が注意を呼び掛け【やじうまWatch】", "url": "https://internet.watch.impress.co.jp/docs/yajiuma/1544019.html", "date": "2023-11-02" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2023-09-microsoft-ai-research-sas-token-exposure", "url": "https://aisec-note.jp/incidents/2023-09/#2023-09-microsoft-ai-research-sas-token-exposure", "title": "MicrosoftのAI研究チームがGitHubで公開したURLの過剰権限SASトークンにより、社内データ38TBが閲覧可能に", "published": "2023-09-18", "occurred": "2020-07-20", "organization": "Microsoft", "org_type": "AI事業者", "country": "米国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": null, "summary": "MicrosoftのAI研究部門がGitHubで画像認識用のオープンソースAIモデルを公開する際、Azure Storageの共有URLに範囲が広く権限の強いSASトークンを含めていた。Wizの研究者がこれを見つけ、同じストレージアカウントの38TBの非公開データにアクセスできる状態だったと報告した。Microsoftはトークンを失効させ、顧客データの露出はなかったとしている。", "cause": "従業員がオープンソースAIモデルの公開に関わる中で、過剰な権限のSASトークンを含むURLを公開GitHubリポジトリに載せた（MSRC）。Azure StorageやSAS機能自体の脆弱性ではないとしている。", "impact": "Wiz：38TBの非公開データ（従業員2人のPCのバックアップ、Microsoftのサービスのパスワード・秘密鍵、359人の従業員の3万件超のTeamsメッセージ）。トークンは読み取り専用ではなく「フルコントロール」。MSRC：元従業員2人のワークステーションプロファイルのバックアップと社内Teamsメッセージ。顧客データの露出はない。", "response": "2023年6月22日の報告を受け、24日にトークンを失効し外部アクセスを遮断。GitHubのシークレットスキャンを拡張し、このURLを誤って問題なしと判定していた原因を修正。", "prevention": "AIの学習データやモデルを外部公開するときは、ストレージ共有リンクの権限・範囲・有効期限を最小にし、公開前にシークレットスキャンを通す。", "sources": [ { "kind": "primary", "publisher": "Microsoft Security Response Center", "title": "Microsoft mitigated exposure of internal information in a storage account due to overly-permissive SAS token", "url": "https://www.microsoft.com/en-us/msrc/blog/2023/09/microsoft-mitigated-exposure-of-internal-information-in-a-storage-account-due-to-overly-permissive-sas-token", "date": "2023-09-18" }, { "kind": "primary", "publisher": "Wiz Research", "title": "38TB of data accidentally exposed by Microsoft AI researchers", "url": "https://www.wiz.io/blog/38-terabytes-of-private-data-accidentally-exposed-by-microsoft-ai-researchers", "date": "2023-09-18" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2023-09-retool-sms-phishing-deepfake-voice", "url": "https://aisec-note.jp/incidents/2023-09/#2023-09-retool-sms-phishing-deepfake-voice", "title": "Retool、SMSフィッシングとディープフェイク音声の電話で従業員のMFAコードを詐取され、クラウド顧客27社のアカウントが乗っ取られる", "published": "2023-09-13", "occurred": "2023-08-27", "organization": "Retool", "org_type": "企業", "country": "米国", "category": "deepfake", "category_label": "ディープフェイク・なりすまし詐欺", "ai_tool": null, "summary": "Retoolは、従業員が給与関連を装ったSMSから偽のOktaログインページに誘導され、その後ITチームの一員を名乗り実在する従業員の声をディープフェイクで模倣した電話を受けて、MFAコードを伝えてしまったと公表した。攻撃者は従業員のGoogleアカウントに入り、Google Authenticatorのクラウド同期で保存されていたMFAコードも使って社内システムにアクセスし、クラウド顧客27社のアカウントを乗っ取った。", "cause": "SMSフィッシングとディープフェイク音声の電話によるソーシャルエンジニアリング。Google AuthenticatorのクラウドでMFAコードが同期されていたことで被害が広がった（Retool）。", "impact": "クラウド顧客27社（主に暗号資産業界）のアカウントが乗っ取られた。オンプレミス版とマネージド版は影響なし。", "response": "社内セッションの失効、影響を受けたアカウントの封鎖と復旧、顧客への通知（8月29日）、法執行機関・フォレンジック企業との連携、Googleへのフィードバック。", "prevention": "フィッシングに強いMFA（FIDO2・パスキー等）に切り替え、電話でMFAコードを聞かれても答えない運用を徹底する。", "sources": [ { "kind": "primary", "publisher": "Retool", "title": "When MFA isn't actually MFA", "url": "https://retool.com/blog/mfa-isnt-mfa", "date": "2023-09-13" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] }, { "id": "2023-03-openai-chatgpt-redis-bug", "url": "https://aisec-note.jp/incidents/2023-03/#2023-03-openai-chatgpt-redis-bug", "title": "ChatGPTの不具合で一部利用者の会話タイトルと支払情報の一部が他の利用者に表示", "published": "2023-03-24", "occurred": "2023-03-20", "organization": "OpenAI", "org_type": "AI事業者", "country": "米国", "category": "service-flaw", "category_label": "AIサービスの不具合・設定ミス", "ai_tool": "ChatGPT", "summary": "ChatGPTが使っていたオープンソースのRedisクライアントライブラリ（redis-py）の不具合で、一部の利用者に他の利用者のチャット履歴のタイトルが表示され、新しい会話の最初のメッセージが見えた可能性もあった。調査の結果、2023年3月20日の約9時間に、ChatGPT Plus会員の一部の氏名・メールアドレス・支払先住所・カードの種類・カード番号の下4桁・有効期限が他の利用者に見えた可能性があることも分かった。", "cause": "Asyncioで使うredis-pyの不具合。リクエストが途中でキャンセルされると接続が壊れ、別のリクエストに他人のキャッシュデータが返ることがあった。3月20日午前1時（米太平洋時間）のサーバー変更でキャンセルが急増した。", "impact": "支払い関連情報が見えた可能性があるのは、該当の9時間に利用していたChatGPT Plus会員の1.2%。カード番号の全体は露出していない。", "response": "ChatGPTを停止して修正、Redisのメンテナにパッチを提供、キャッシュから返るデータが本人のものか照合するチェックを追加、ログを検査、影響を受けた利用者に通知。", "prevention": "AIサービスを選ぶときは、障害やインシデントの公表姿勢と利用者への通知の仕組みも確認する。チャット履歴に機密を残さない運用を決めておく。", "sources": [ { "kind": "primary", "publisher": "OpenAI", "title": "March 20 ChatGPT outage: Here’s what happened", "url": "https://openai.com/index/march-20-chatgpt-outage/", "date": "2023-03-24" } ], "added": "2026-10-20", "updated": "2026-10-20", "corrections": [] } ] }