AI時代の脅威の解説

プロンプトインジェクション、シャドーAI、生成AIからの情報漏洩、ディープフェイク詐欺など、社内でAIを使う会社が知っておきたい脅威を、仕組みと対策まで1ページずつ解説します。

生成AIのセキュリティ全体像

生成AIを業務で使う会社が向き合うセキュリティ上のリスクを、「使う側」「組み込む側」「攻撃に使われる側」に分けて整理し、AI事業者ガイドラインやIPA、OWASP、NISTの枠組みとの対応、取り組む順番を解説します。
AIを悪用したサイバー攻撃

脆弱性を見つける力の高いAIの登場や、AIエージェントが試験環境を抜け出して他社のシステムに侵入した事例など、AIで攻撃がどう変わったのかを一次資料で整理し、「何が変わり、何が変わっていないか」と、会社が先にやるべき対策を解説します。
生成AIからの情報漏洩

ChatGPTなどの生成AIを業務で使うと、どんな経路で情報が漏れうるのか。入力データの扱い（学習への利用・保存期間）を主要サービスの個人向け・法人向けで比べ、サービス側の不具合、共有・連携機能、アカウントの乗っ取りまで、経路ごとに会社でできる対策を整理します。
DeepSeekの危険性

中国のAI企業DeepSeekの生成AIを業務で使ってよいか。データの保存先と適用される法律、実際に起きた情報の露出、国内外の当局の対応、安全対策の検証結果を一次資料で整理し、公式アプリ・API・クラウド経由・自社環境という使い方ごとにデータの行き先と注意点を比べます。
プロンプトインジェクション

生成AIに読ませる文章に指示を紛れ込ませ、AIを意図しない動きに誘導する「プロンプトインジェクション」の仕組みと種類、実際に報告された脆弱性、AIを業務で使う会社がとれる対策を、総務省のガイドラインやOWASPの資料をもとに解説します。
シャドーAI

会社が把握していない生成AIツールを社員が業務で使う「シャドーAI」。なぜ起きるのか、何が危ないのか、国内の調査の数字、禁止だけに頼らずに管理する方法を、担当者向けに解説します。
AIを使った詐欺

経営者の顔や声を生成AIでまねたビデオ会議・電話での送金指示や、自然な日本語で書かれたフィッシングなど、AIで巧妙になった詐欺の手口と公表された事例、会社として整えておく確認の手順を解説します。