2024年5月に公表された生成AI関連のインシデント（2件）
2024年5月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
-
Hugging FaceのSpacesに不正アクセス、一部のシークレットが不正に取得された疑い
AIモデル共有基盤のHugging Faceは、アプリ実行環境Spacesへの不正アクセスを検知し、Spacesに保存されたシークレット（APIキーやトークン）の一部に許可なくアクセスされた疑いがあると公表した。影響したシークレットに含まれていたHFトークンを失効し、該当利用者にメールで通知した。
- 原因
- 不正アクセス（手口は公表なし）
- 影響
- 一部のSpacesのシークレットへのアクセスが疑われる（件数は公表なし）。
- 当事者の対応
- トークンの失効と利用者への通知、外部のフォレンジック専門家による調査、法執行機関とデータ保護当局への報告、組織トークンの廃止、シークレットへの鍵管理サービス（KMS）の導入、きめ細かいアクセストークンへの移行の推奨。
- 防ぐには
- AI開発基盤に置くAPIキーやトークンは権限と期限を最小にし、事業者から通知が来たらすぐに再発行する。
- AIの悪用 警視庁（日本）
生成AIを利用して不正プログラムを作成したとして、警視庁が男を逮捕
警察庁の報告によると、男（当時25歳）は2023年3月、生成AIを利用して、実行するとファイルのデータを上書きして破壊する機能を持つ不正プログラムを作成した。警視庁は2024年5月、不正指令電磁的記録作成の疑いで男を逮捕した。
- 原因
- 公表なし（生成AIを利用して作成したとされるが、使われたAIの名称や手口は公表されていない）
- 影響
- 公表なし
- 当事者の対応
- 警視庁が2024年5月に不正指令電磁的記録作成の疑いで逮捕した（警察庁の報告）。
- 防ぐには
- 攻撃ツールを作る敷居が下がっている前提で、オフライン（分離）バックアップ、EDR、不審プログラムの実行制御など、ランサムウェアの基本対策を確実にしておく。