AIを使った詐欺から会社を守る：ディープフェイク・音声のなりすまし・巧妙化するフィッシング
経営者の顔や声を生成AIでまねたビデオ会議・電話での送金指示や、自然な日本語で書かれたフィッシングなど、AIで巧妙になった詐欺の手口と公表された事例、会社として整えておく確認の手順を解説します。
何が変わったのか
なりすましによる送金詐欺（ビジネスメール詐欺）は、生成AIが広まる前からある手口です。変わったのは、なりすましの材料を作る手間が大きく下がったことです。
- 映像: 公開されている動画や写真から、本人に似た顔で話す映像を作れる
- 音声: 本人の声に似せて任意の文章を読み上げさせる「音声クローン」が使われている。AI事業者ガイドラインは、AIの合成音声で家族の声を装い身代金を要求した海外の事例を挙げています7
- 文章: 警察庁は、AI技術の発達で文章が自然になり、見抜きにくいフィッシングが増えているとしています4
IPAの「情報セキュリティ10大脅威 2026」でも、10位のビジネスメール詐欺の解説で、なりすましにAIによるディープフェイク等の利用も確認されていると書かれています1。「日本語がおかしいメールは怪しい」「声を聞けば本人だと分かる」という、これまでの見分け方が通じにくくなっています。
公表された事例
海外：役員を装ったビデオ会議で約2億香港ドルを送金
香港政府の答弁によると、2024年1月末、英国本社の最高財務責任者（CFO）を装ったメールをきっかけにグループのビデオ会議に招かれた社員が、5つの口座へ合計約2億香港ドルを送金しました。香港警察は、この会議は公開されている動画と音声をもとに作られた事前録画で、詐欺師と被害者の間で双方向のやり取りはなかったとみています。同年5月にも、CFOを装ったメッセージから約30分のビデオ会議に誘い込み、約400万香港ドルの送金を指示した事案がありました2。
国内：顔をAIで作った偽の警察官、ディープフェイクのなりすまし広告
警察庁は、特殊詐欺でビデオ通話に出る偽の警察官の顔をAIで生成していた事案（2025年8月逮捕）を報告しています4。また、ディープフェイクで著名人の顔や声を無断で使ったなりすまし広告をきっかけに投資詐欺の被害が広がっているとして、2026年8月には警察庁など7府省庁が、主要なSNS・広告事業者に広告主の本人確認などの対策強化を要請しました5。
国内：社長・役員を装った依頼メール
IPAの解説書は、2025年12月以降、社長や役員を装って「LINEグループの作成」を依頼するメールが相次いでいることを取り上げています1。生成AIの使用が確認された事例ではありませんが、経営者を名乗って社員を動かそうとする手口が国内でも続いていることを示しています。
会社で狙われやすい場面
- 経営者・上司を名乗る送金の指示: 「極秘の案件なので、今日中にこの口座へ」といった急ぎの依頼
- 取引先を名乗る振込先の変更: 請求書の振込先口座が変わったという連絡
- 社内の担当者を名乗るパスワードや認証コードの要求: ヘルプデスクや情報システム部門を装う
- 採用・取引の相手のなりすまし: オンライン面接や商談の相手が、別人の顔や声を使っている
対策：見破るより、手順で止める
偽の映像や音声を見破る技術や製品もありますが、作る側の技術も進みます。IPAとAIセーフティ・インスティテュートの資料も「外見では詐欺師を見破れないと心得る」ことを勧めています6。お金や情報が動く場面に、だまされても止まる手順を入れておきます。
1. 送金・口座変更は、事前に決めた別の経路で本人に確かめる
メール、チャット、ビデオ会議で受けた送金の指示や振込先の変更は、会社が把握している電話番号など、相手から伝えられたのではない連絡先にかけ直して確認します13。届いたメールに書かれた電話番号は使いません。FBIは、本人確認のための合言葉を決めておくことも勧めています3。
2. 一人で完結させない
支払いの業務は複数人で審査・承認する仕組みにします1。「急ぎ」「極秘」「ほかの人には言わないで」は、詐欺の典型的な言い回しです。そう言われたときこそ、手順どおりに確認してよいことを社内で明確にしておきます。
3. 経営者の声や顔は公開されている前提で考える
講演、インタビュー、SNSの動画で経営者の声や顔が公開されていれば、それを材料にできます。香港の事案でも、公開されている動画と音声が使われたとみられています2。経営者自身が「自分から電話やビデオ会議で急な送金を頼むことはない」と社内に伝えておくのも有効です。
4. ビデオ会議での確かめ方を決めておく
香港警察は、相手に頭を上下左右に動かしてもらう、会話の内容で本人かどうかを確かめる、送金の依頼は電話で確認する、知らない相手からのビデオ通話には出ない、といった方法を勧めています2。ただし、これらは見破るための補助です。最終的な確認は1の手順で行います。
5. メールのなりすましを技術で減らす
IPAは、送信ドメイン認証（DMARC・SPF・DKIM）や、FIDO2などの強い多要素認証を対策に挙げています1。受け取る側でも、外部から届いたメールであることを表示する設定は、社内の人を装ったメールに気づくきっかけになります。
6. 定期的に訓練する
なりすましの連絡を受けたときの手順を、年に一度などの頻度で確認・訓練します。手順は、知っているだけでなく、急かされた場面で実際に使えることが大切です。
チェックリスト
- 送金・振込先変更の依頼を、事前に決めた別の連絡経路で確認する手順があるか
- 支払いに、二人以上の審査・承認を必須にしているか
- 「急ぎ・極秘」の依頼でも手順を省かなくてよいと、社内で明言しているか
- 自社ドメインに送信ドメイン認証（SPF・DKIM・DMARC）を設定しているか
- なりすましを受けたときの報告先が決まっているか
実際に起きた事例
事例集を見る- ディープフェイク 株式会社PHP研究所／パナソニック ホールディングス株式会社（日本）
故・松下幸之助氏の画像や音声をAIで合成した偽動画がSNSで拡散、PHP研究所とパナソニックHDが注意喚起
PHP研究所は、創設者でパナソニックグループ創業者の故・松下幸之助氏の画像や音声をAI技術で不正に合成した動画が、インターネット上で出回っていることを確認したと公表した。本人の言動・人柄をゆがめる内容を含む場合があり、違法な可能性が高いとして、見つけしだい調査・記録し、プラットフォームへの削除申立てや法的措置を検討するとした。パナソニック ホールディングスも2025年11月21日、YouTubeをはじめとするSNSで同様の動画が拡散していることを確認したとして注意を呼びかけ、同社がPHP研究所と共同開発している「松下幸之助」再現AIとも関係がないと説明した。
- ディープフェイク 株式会社カブアンド（日本）
カブアンドと代表の前澤友作氏を騙る偽の動画広告が急増、AIで顔や音声を合成したような動画で投資詐欺に誘導
カブアンドは公式サイトの社長記事で、SNS上で「前澤友作」や「カブアンド」を騙る偽の動画広告が急増しているとして注意を呼びかけた。一部の広告では顔や音声をAIで合成したような動画が使われ、本人が直接呼びかけているように見せかけている。カブアンドを名乗って、存在しない投資案件や高額リターンをうたい、個人情報や金銭をだまし取ろうとする詐欺も確認されているという。
- ディープフェイク 愛知県警など6県警（日本）
ビデオ通話で警察官役の顔をAIで生成して現金をだまし取った特殊詐欺の被疑者を6県警が逮捕
警察庁の令和8年上半期の報告によると、被疑者らは2024年10月頃から2025年5月頃まで、海外の特殊詐欺拠点から日本国内の被害者に電話やSNSの通話機能で連絡し、『マネー・ローンダリング事件に関与している嫌疑があるため、預貯金の流れを確認する必要がある』などとうそを言って現金をだまし取っていた。警察官役はSNSのビデオ通話で制服のようなものを着て偽の警察手帳を見せ、顔が識別されないようAIで生成した顔を使っていた。
- AIの悪用 大阪府警察（日本）
大手ECサイトを装うフィッシングサイトを生成AIで改修していた男らを大阪府警が逮捕
警察庁の令和7年の報告によると、無職の男（36）らは2024年6月と9月に大手ECサイトを装ったフィッシングサイトを公開し、同年11月に不正に取得した他人の識別符号（ID・パスワード等）を保管した。サイトを作る際に生成AIを悪用して改修していたことが判明しており、大阪府警は日本サイバー犯罪対策センター（JC3）の協力を得て2025年6月、不正アクセス禁止法違反（識別符号の入力要求・保管）で逮捕した。
- AIの悪用 警察庁・インド中央捜査局（CBI）（日本）
日本人を狙ったサポート詐欺でインドの被疑者6人を逮捕、標的の特定や偽警告画面の作成・翻訳に生成AIを使用
警察庁の令和7年の報告によると、日本警察とインド中央捜査局（CBI）が日本人を標的としたサポート詐欺事件を国際共同捜査し、2025年5月にCBIがインド国内でインド人被疑者6人を逮捕した。被疑者グループは生成AIを悪用し、標的の特定、ポップアップウィンドウの作成、日本語への翻訳を行っていた。捜査にはJC3やMicrosoftも協力した。
- ディープフェイク 米連邦通信委員会（FCC）（米国）
米大統領の声をAIで複製した選挙妨害の自動音声電話に、FCCが600万ドルの制裁金
2024年1月のニューハンプシャー州大統領予備選の2日前、バイデン大統領の声をAIで複製した音声で投票しないよう呼びかける、発信者番号を偽装した自動音声電話が有権者に送られた。FCCは2024年9月26日、この電話を指示した政治コンサルタントに600万ドルの制裁金を科すと決定し、通話を伝送した通信事業者とは100万ドルで和解した。
この記事の根拠にした資料
- 独立行政法人情報処理推進機構（IPA）「情報セキュリティ10大脅威 2026 解説書［組織編］」
- 香港特別行政区政府「LCQ9: Combating frauds involving deepfake（立法会での保安局長の書面答弁）」
- 米国連邦捜査局（FBI）IC3「Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud」
- 警察庁「令和8年上半期におけるサイバー空間をめぐる脅威の情勢等について」
- 警察庁ほか7府省庁「SNS等におけるなりすまし詐欺広告に関する対策強化のための7府省庁合同要請の実施」
- IPA・AIセーフティ・インスティテュート「AI利用者のためのセキュリティ豆知識」
- 総務省・経済産業省「AI事業者ガイドライン（第1.2版）別添」