2023年3月に公表された生成AI関連のインシデント（1件）

ChatGPTの不具合で一部利用者の会話タイトルと支払情報の一部が他の利用者に表示

ChatGPTが使っていたオープンソースのRedisクライアントライブラリ（redis-py）の不具合で、一部の利用者に他の利用者のチャット履歴のタイトルが表示され、新しい会話の最初のメッセージが見えた可能性もあった。調査の結果、2023年3月20日の約9時間に、ChatGPT Plus会員の一部の氏名・メールアドレス・支払先住所・カードの種類・カード番号の下4桁・有効期限が他の利用者に見えた可能性があることも分かった。

原因

Asyncioで使うredis-pyの不具合。リクエストが途中でキャンセルされると接続が壊れ、別のリクエストに他人のキャッシュデータが返ることがあった。3月20日午前1時（米太平洋時間）のサーバー変更でキャンセルが急増した。

影響

支払い関連情報が見えた可能性があるのは、該当の9時間に利用していたChatGPT Plus会員の1.2%。カード番号の全体は露出していない。

当事者の対応

ChatGPTを停止して修正、Redisのメンテナにパッチを提供、キャッシュから返るデータが本人のものか照合するチェックを追加、ログを検査、影響を受けた利用者に通知。

防ぐには

AIサービスを選ぶときは、障害やインシデントの公表姿勢と利用者への通知の仕組みも確認する。チャット履歴に機密を残さない運用を決めておく。