2023年11月に公表された生成AI関連のインシデント（2件）
2023年11月に一次発表があった、生成AI・AIツールに関わる事例です。原因は一次発表に書かれた範囲だけを載せています。
- ディープフェイク 日本テレビ放送網（日本）
岸田首相（当時）の声を加工し日本テレビのニュース画面に見せかけた偽動画がSNSで拡散、日本テレビが抗議
岸田首相（当時）の声を加工して卑猥な発言をしているように見せかけ、日テレNEWS24の番組ロゴなどを表示してニュース番組を装った偽動画が動画配信サイトに投稿され、SNSで拡散した。日本テレビは自社ニュースで、動画は生成AIの技術を悪用したものとみられると伝え、放送や番組ロゴを悪用されたことは到底許すことはできないとコメントした。
- 原因
- 公表なし（生成AIの技術を悪用したものとみられる、という日本テレビの見方のみ）
- 影響
- 公表なし
- 当事者の対応
- 日本テレビが抗議のコメントを出し、今後も必要に応じて然るべき対応をとるとした。
- 防ぐには
- 自社のロゴや経営者の映像・声が悪用されたときに、公式見解をどこでどう出すかを事前に決めておく。見る側は、公式サイトや公式アカウントで真偽を確認する。
- ディープフェイク 日本テレビ放送網（日本）
日本テレビのニュース番組を改変し、アナウンサーの声をAIで再現したとみられる投資勧誘の偽広告動画がSNSで拡散
日本テレビが2023年8月に「news every.」で放送したニュースを加工し、アナウンサーが投資サイトへの登録を促しているように見せかけた偽の広告動画が、10月下旬からSNS上で拡散した。日テレNEWSによると、日本テレビの依頼でAIの研究会社が解析した結果、アナウンサーの声は生成AIが本人の声を学習して再現したものとみられ、口元にも編集が加わっている可能性がある。日本テレビは自社サイトで「当社は一切関与しておらず、推奨もしていません」と注意を呼びかけた。
- 原因
- 公表なし（生成AIでアナウンサーの声を再現したと考えられる、という解析結果のみ）
- 影響
- 被害件数・被害額の記載なし。
- 当事者の対応
- 番組映像の無断使用と内容の改変にあたるとしてSNS運営者に指摘し、動画は順次削除された。自社サイトのトップ画面で注意喚起した（日テレNEWS）。
- 防ぐには
- 報道機関や企業は、自社の番組・ロゴ・出演者がAIで改変された広告に使われることを前提に、公式の否定声明の場所とSNS事業者への削除要請の手順を決めておく。見る側は、投資を勧める動画は公式サイトで真偽を確かめる。