2024年6月に公表された生成AI関連のインシデント(1件)
2024年6月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
- ディープフェイク 香港特別行政区政府(保安局)(香港)
本社のCFOを装ったディープフェイクのビデオ会議で、香港の社員が約2億香港ドルを送金
香港政府の立法会での答弁によると、2024年1月末、英国本社の最高財務責任者(CFO)を装ったフィッシングメールをきっかけにグループのビデオ会議に招かれた社員が、指示に従って5つの口座へ合計約2億香港ドルを送金した。香港警察は、会議は公開されている動画と音声をもとに作られた事前録画で、詐欺師と被害者の間に双方向のやり取りはなかったとみている。政府は被害企業の名前を公表していない。
- 原因
- CFOを装ったメールと、公開されている映像・音声から作ったとみられる偽のビデオ会議によるなりすまし(香港政府の答弁)。
- 影響
- 約2億香港ドルの送金(香港政府の答弁)。
- 当事者の対応
- 香港警察が捜査。政府は、相手に頭を上下左右に動かしてもらう、会話の内容で確かめる、送金の依頼は電話で確認する、知らない相手からのビデオ通話に出ない、といった見分け方を案内している。
- 防ぐには
- 送金や振込先の変更は、ビデオ会議の場で決めず、事前に決めた別の連絡経路で本人に確かめる。一定額以上の送金は複数人で承認する。