メクバリを詳しく見る

コラム

顧客情報を生成AIに入力してよいか。個人情報保護委員会が示した2つの確認事項

顧客の氏名や問い合わせ内容を生成AIに入力してよいかを、個人情報保護委員会の注意喚起にもとづいて整理しました。入力の前に確認する項目と、会社として一度だけ調べておく項目を説明します。

シャドーAI対策なら「メクバリ」社員がどのAIに何を送ったかを記録し、機微情報の送信は送る前に止めます。メクバリを詳しく見る
株式会社B-Rocaのコラム。顧客情報を生成AIに入力してよいか。個人情報保護委員会の2つの確認事項。シャドーAI対策エージェント「メクバリ」。

入力そのものは禁止されていない

「この問い合わせメールを、生成AIに要約させてよいですか」。現場からこう聞かれたときの判断の材料として、個人情報保護委員会が2023年6月2日に出した「生成AIサービスの利用に関する注意喚起等」があります。

この文書は、個人情報の入力を禁止していません。入力する場合に確認することを、事業者向けに2つ挙げています。

本コラムは、2026年11月時点の法令と公表資料にもとづく一般的な情報の提供を目的としたもので、法的な助言ではありません。個別の判断は、弁護士や個人情報保護委員会にご確認ください。

個人情報保護委員会が示した2つの確認事項

1つ目は、利用目的の範囲内かどうかです。個人情報を含む内容を入力する場合は、その個人情報について特定した利用目的を達成するために必要な範囲内であることを、十分に確認するよう求めています。

2つ目は、入力した内容が学習に使われないかどうかです。本人の同意を得ずに個人データを入力し、その個人データが回答の出力以外の目的で取り扱われる場合、個人情報保護法に違反することとなる可能性がある、としています。そのため、サービスの提供者が個人データを機械学習に利用しないことなどを、十分に確認するよう求めています。

「個人情報」と「個人データ」の違い

1つ目の確認事項は「個人情報」、2つ目は「個人データ」と書き分けられています。

・個人情報:生きている個人を識別できる情報。メールの本文に書かれた氏名も含まれる

・個人データ:検索できるように整理された個人情報。顧客管理システムから取り出した一覧など

現場の従業員が、入力のたびにこの2つを区別するのは困難です。運用では区別せず、どちらにも2つの確認を行うことをおすすめします。

入力の前に確認する6項目

・個人を識別できる情報が含まれているか。社内の顧客番号も、対応表があれば識別できる

・自社が公表している利用目的の範囲内か

・そのAIが、入力を学習に使わない設定になっているか

・要配慮個人情報(病歴、信条、犯罪の経歴など)が含まれていないか

・回答に誤りが含まれる前提で、人が確認しているか

・誰が、いつ、何を入力したかの記録が残るか

注意喚起は、生成AIの回答には不正確な内容の個人情報が含まれるリスクがある、とも書いています。回答をそのまま顧客への返信に使わない運用にします。

学習に使われるかどうかは、会社が一度調べて一覧にする

3つ目の項目を、従業員が入力のたびに調べるのは現実的ではありません。会社が認めたAIについて、担当者が一度調べて一覧にします。項目は3つです。

・サービス名と契約の種類(法人向けか個人向けか)

・入力が学習に使われるか。設定で止められるか

・確認した日付

法人向けと個人向けで扱いが違うサービスが多く、規約は変更されます。確認した日付を残しておきます。

従業員が個人で契約したアカウントは、この一覧に載りません。個人のアカウントで顧客情報が入力されていないかは、別に確認する必要があります。当社の「メクバリ」は、生成AIの利用を、会社のアカウントと個人のアカウントに区別して記録します。入力された情報が利用目的の範囲内かどうかの判断は、記録を見た担当者が行います。

よくある質問

顧客の氏名を生成AIに入力すると、それだけで違反になりますか

入力しただけで違反になるわけではありません。個人情報保護委員会の注意喚起は、利用目的の範囲内であること、サービスの提供者が個人データを機械学習に利用しないことなどを、確認するよう求めています。

学習に使われないことは、どこで確認できますか

サービスの提供者の利用規約、プライバシーポリシー、管理画面の設定で確認します。主要な3社の扱いは、ChatGPT・Claude・Geminiへの入力が学習に使われる条件にまとめています。

生成AIの回答に、誤った個人情報が含まれていた場合はどうなりますか

注意喚起は、回答には不正確な内容の個人情報が含まれるリスクがあるとし、そのリスクを踏まえて適切に判断するよう求めています。人が確認していない回答を、顧客への返信や記録に使わないようにします。

メクバリの機能や導入の流れを、資料で確認できますか

サービス紹介資料をご用意しています。機能・プラン・導入の流れを1冊にまとめた資料です。社内での検討や稟議にお使いいただけます。資料ダウンロードからお申し込みください。そのほかのご相談は、お問い合わせからご連絡ください。

関連ページ

シャドーAI対策エージェント「メクバリ」の機能と導入の流れ

生成AI利用規程ひな形+運用チェックリスト(無料でダウンロードできます)

生成AIに顧客情報を入力してしまったときの対応。報告が必要かを判断する順番

生成AI利用規程の作り方。本文は8条、ツール名と入力の可否は別表に分ける

生成AIに社外秘を入力すると、営業秘密として守れなくなるのか。経済産業省の指針の記載

出典

個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」(2023年6月2日)

個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(掲載ページ)

この記事について

メクバリ編集部

シャドーAI対策エージェント「メクバリ」を開発する株式会社B-Rocaが、生成AIを安全に業務で使うための情報をお届けしています。B-RocaはAIの研究開発から、企業のAI活用を現場に定着させる伴走支援までを手がけています。

コラム一覧へ戻る