2024年2月に公表された生成AI関連のインシデント（1件）

MicrosoftとOpenAI、ロシア・北朝鮮・イラン・中国の国家支援とみられる5つの攻撃グループによるLLM利用を確認し、アカウントを停止

MicrosoftはOpenAIとの協力により、ロシア軍情報機関に関連するForest Blizzard、北朝鮮のEmerald Sleet、イランのCrimson Sandstorm、中国のCharcoal TyphoonとSalmon Typhoonの5グループが、偵察、スクリプト作成の支援、フィッシング文面の作成、翻訳などにLLMを使っていたと公表した。LLMを使った重大な攻撃や新しい攻撃手法は確認されていないとしている。

原因

攻撃者による正規のLLMサービスの利用（Microsoft）。

影響

重大な攻撃は確認されず、初期段階の試行と評価（Microsoft）。

当事者の対応

5グループに関連するすべてのアカウントと資産を無効化（Microsoft）。

防ぐには

生成AIで日本語の不自然さが減ったフィッシングを前提に、文面ではなく送信ドメイン認証（DMARC等）やURLで見分ける訓練に切り替える。