2024年9月に公表された生成AI関連のインシデント（1件）

米大統領の声をAIで複製した選挙妨害の自動音声電話に、FCCが600万ドルの制裁金

2024年1月のニューハンプシャー州大統領予備選の2日前、バイデン大統領の声をAIで複製した音声で投票しないよう呼びかける、発信者番号を偽装した自動音声電話が有権者に送られた。FCCは2024年9月26日、この電話を指示した政治コンサルタントに600万ドルの制裁金を科すと決定し、通話を伝送した通信事業者とは100万ドルで和解した。

原因

生成AIによる音声クローンと発信者番号の偽装（FCC）。

影響

公表なし（ニュースリリースに通話件数の記載なし）。

当事者の対応

FCCが制裁金を決定（30日以内に支払わなければ司法省に回付）。ニューハンプシャー州司法長官は州法上の有権者抑圧等で起訴。FCCは、AIで生成した音声の通話にも電話消費者保護法（TCPA）の規制が及ぶことを確認している。

防ぐには

よく知った人や公的機関の声でも、音声だけで本物と判断しない。重要な指示は別の経路で確かめる。