メクバリを詳しく見る

コラム

生成AIに顧客情報を入力してしまったときの対応。報告が必要かを判断する順番

従業員が顧客情報を生成AIに入力したことが分かったとき、個人情報保護委員会への報告が必要かどうかを判断する順番を、ガイドラインの記載にもとづいて整理しました。報告の期限と、事前に用意しておくものも説明します。

シャドーAI対策なら「メクバリ」社員がどのAIに何を送ったかを記録し、機微情報の送信は送る前に止めます。メクバリを詳しく見る
株式会社B-Rocaのコラム。生成AIに顧客情報を入力したときの対応。報告が必要かを判断する順番。シャドーAI対策エージェント「メクバリ」。

最初に確認するのは、会社が認めたAIかどうか

「従業員が顧客名簿を生成AIに貼り付けたようだ」。この報告を受けたとき、最初に確認するのは、入力先が会社の認めたAIかどうかです。

個人情報保護委員会のガイドライン(通則編)は、漏えいを「個人データが外部に流出すること」と定義しています。そのうえで、漏えいにあたらない場合を2つ挙げています。

・第三者に閲覧されないうちに、すべてを回収した場合

・事業者が自らの意図にもとづいて、個人データを第三者に提供する場合

会社が使うと決めたAIに、従業員が業務として入力した場合は、会社の意図にもとづく提供です。漏えいの報告ではなく、利用目的や第三者への提供に関する規律を確認することになります。

会社が認めていないAIに、従業員が自分の判断で入力した場合は、会社の意図にもとづいていません。外部への流出として扱われる可能性があります。

本コラムは、2026年11月時点の法令とガイドラインにもとづく一般的な情報の提供を目的としたもので、法的な助言ではありません。個別の事案の判断は、個人情報保護委員会や専門家にご確認ください。

漏えいにあたる場合でも、報告が必要なのは4つの事態

漏えいにあたる場合でも、すべてを報告するわけではありません。報告の対象は、個人情報保護法の施行規則第7条が定める4つの事態です。発生したおそれがある場合も含みます。

・要配慮個人情報が含まれる個人データの漏えい

・不正に利用されることにより、財産的な被害が生じるおそれがある個人データの漏えい

・不正の目的をもって行われたおそれがある行為による個人データの漏えい

・本人の数が1,000人を超える漏えい

3つ目は、外部からの攻撃だけではありません。ガイドラインは、従業者による持ち出しもこの類型にあたる場合があるとしています。

報告の対象にあたらない事案でも、任意で報告することはできます。

報告の期限は、いずれかの部署が知った時点から数える

報告は2段階です。

・速報:事態を知った時点から、おおむね3日から5日以内

・確報:事態を知った日から30日以内。不正の目的による事態は60日以内

「知った」時点について、ガイドラインは、法人の場合は「いずれかの部署が当該事態を知った時点」を基準とするとしています。情報システムの担当者が把握した時点から、期限を数えます。経営層への報告や法務の確認が終わった時点ではありません。

速報は、報告する時点で把握している内容で足ります。調査の完了を待つ必要はありません。

事故の前に用意しておくもの

用意しておくものは2つです。

1つ目は、会社が使ってよいと決めたAIの一覧です。一覧がないと、入力先が会社の認めたAIかどうかを判断できません。漏えいにあたるかどうかも、報告が必要かどうかも決まりません。事故が起きてから一覧を作るのでは、3日から5日の期限に間に合いません。

2つ目は、入力の記録です。誰が、いつ、どのAIに、どんな種類の情報を入力したかが残っていれば、範囲の確認から始められます。

当社の「メクバリ」は、会社が配布したパソコンで、どのAIにどんな種類の情報が送られたかを記録します。会社が認めていないAIも対象です。要配慮個人情報が含まれていたか、何人分か、といった判断は、記録を見た担当者が行います。

よくある質問

従業員が生成AIに顧客情報を入力した場合、必ず個人情報保護委員会への報告が必要ですか

必ず必要になるわけではありません。会社の意図にもとづく提供であれば、漏えいにはあたりません。漏えいにあたる場合でも、報告の対象は施行規則第7条が定める4つの事態です。

報告の期限はいつまでですか

速報は、事態を知った時点からおおむね3日から5日以内です。確報は、事態を知った日から30日以内で、不正の目的による事態は60日以内です。法人の場合は、いずれかの部署が事態を知った時点から数えます。

会社が認めたAIに入力した場合は、問題になりませんか

漏えいの報告の対象にはなりませんが、問題がないとは限りません。利用目的の範囲内か、入力が学習に使われないかを確認します。確認の方法は、顧客情報を生成AIに入力してよいかにまとめています。

メクバリの機能や導入の流れを、資料で確認できますか

サービス紹介資料をご用意しています。機能・プラン・導入の流れを1冊にまとめた資料です。社内での検討や稟議にお使いいただけます。資料ダウンロードからお申し込みください。そのほかのご相談は、お問い合わせからご連絡ください。

関連ページ

シャドーAI対策エージェント「メクバリ」の機能と導入の流れ

生成AI利用規程ひな形+運用チェックリスト(無料でダウンロードできます)

顧客情報を生成AIに入力してよいか。個人情報保護委員会が示した2つの確認事項

AI利用ログに残す4つの項目と保存期間。プロンプト全文を残すかの決め方

委託先の従業員が顧客情報を生成AIに入力した事例。委託契約で確認する7項目

生成AIから情報が漏れる9つの経路。OWASP Top 10 for LLM Applicationsにもとづく整理

出典

個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン(通則編)」

個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)

この記事について

メクバリ編集部

シャドーAI対策エージェント「メクバリ」を開発する株式会社B-Rocaが、生成AIを安全に業務で使うための情報をお届けしています。B-RocaはAIの研究開発から、企業のAI活用を現場に定着させる伴走支援までを手がけています。

コラム一覧へ戻る