
IPA「AI利用者のためのセキュリティ豆知識」とは
「AI利用者のためのセキュリティ豆知識」は、IPA(情報処理推進機構)が公開している資料です。全24ページのスライドで、IPAのセキュリティセンターとAIセーフティ・インスティテュートが作成しました。IPAのサイトの「AIセキュリティ」のページに掲載されています。
内容は、AIの基礎知識が4項目、セキュリティ対策が5項目、用語集です。
資料には、利用上の注意が書かれています。厳密性よりも分かりやすさを重視してまとめたこと、AIに関する状況は変化が速く、数カ月で事情が変わる場合があることです。社内の規程の代わりにはなりません。転載や改変をする場合は、IPAが定める利用の条件を確認してください。
資料に書かれている5つの対策
・クラウドAIに営業秘密は教えない
・AIブラウザは社内用と社外用を分ける
・RAG使用時は「混ぜるな危険」にご用心
・外見では詐欺師を見破れないと心得る
・AI仕込みのサイバー攻撃も撃退法は従来通り
RAG(ラグ)は、文書を検索して、その内容をAIの回答に使う仕組みです。3つ目は、メールなど社外から届いたデータを検索の対象に含めると、攻撃を目的としたメールの内容も取り込まれる、という注意です。
2つ目と3つ目は、同じ仕組みによるものです。AIが、読み込んだ文章を指示として実行してしまいます。資料の用語集は、第三者が文章に指示を仕込む攻撃を「間接プロンプトインジェクション」として説明しています。
5つ目は、AIを使った攻撃に対しても、従来のセキュリティ対策が有効だという内容です。
30分で行う場合の進行表
全ページを読み上げると、30分では終わりません。30分で行う場合は、次のように配分します。配分は当社が整理したもので、資料に書かれているものではありません。
・最初の5分:AIの基礎知識。生成AIを「知識豊富だが経験不足の新人」にたとえて説明しているページを使う
・5分から10分:1つ目の対策(営業秘密)
・10分から18分:2つ目と3つ目の対策(AIブラウザとRAG)。理解に時間がかかるため、長く取る
・18分から23分:4つ目と5つ目の対策
・23分から30分:自社で追加する3枚
用語集は、読み上げません。配布して、あとで確認できるようにします。
自社で追加する3枚
IPAの資料は、一般的な内容です。自社でどのAIを使ってよいかは、書かれていません。次の3枚を追加します。
・会社が認めているAIの一覧:担当は情報システム部門。どのAIの利用規約と設定を確認したかを書く
・申請と相談の窓口:使いたいAIがある従業員の、問い合わせ先を書く
・自社の規程の該当する条文:担当は総務部門や法務部門
3枚がない場合、参加した従業員は、研修のあとも、どのAIを使ってよいかが分かりません。3枚は、1回作成すれば、次回は日付を更新して使えます。
資料に載っている調査の数字
資料の1つ目の対策のページには、LayerX Security社の調査の数字が3つ載っています。
・67%の従業員が、個人のアカウントで生成AIツールを使用している
・77%の従業員が、生成AIツールにデータを貼り付けている
・法人から個人利用のサービスに貼り付けられるデータのうち、32%は生成AIツールが受け取っている
社内で引用するときは、海外の企業による調査であることを添えます。日本の会社を対象にした調査ではありません。
研修の前後を、同じ基準で比べる
研修の効果は、参加者のアンケートだけでは確認できません。
当社の「メクバリ」は、ChromeとEdgeの拡張機能と、WindowsとMacのアプリで、生成AIの利用を記録します。研修の前と後で、会社が認めていないAIの利用や、機微情報を含む入力の件数を、同じ基準で比べられます。月次レポートは、経営会議の資料に使えます。
AIブラウザを社内用と社外用に分けて使えているかどうかや、RAGの検索の範囲が適切かどうかは、メクバリでは確認できません。
よくある質問
生成AIのセキュリティ研修に、無料で使える教材はありますか
IPAが、「AI利用者のためのセキュリティ豆知識」を公開しています。全24ページのスライドで、AIの利用者に向けた内容です。利用の条件は、IPAのサイトで確認してください。
研修は、どのくらいの時間で行えますか
本コラムでは、30分で行う場合の配分を示しました。基礎知識に5分、5つの対策に18分、自社で追加する資料に7分です。
IPAの資料だけで、研修を行えますか
自社でどのAIを使ってよいかは、IPAの資料には書かれていません。会社が認めているAIの一覧、申請と相談の窓口、自社の規程の該当する条文の3枚を追加します。
メクバリの機能や導入の流れを、資料で確認できますか
サービス紹介資料をご用意しています。機能・プラン・導入の流れを1冊にまとめた資料です。社内での検討や稟議にお使いいただけます。資料ダウンロードからお申し込みください。そのほかのご相談は、お問い合わせからご連絡ください。
関連ページ
生成AI利用規程ひな形+運用チェックリスト(無料でダウンロードできます)
シャドーAIは禁止しても減らない。先に用意する、会社が認めるAIの一覧
情報セキュリティ10大脅威 2026で、AIの利用をめぐるリスクが3位に。社内説明で引用できる箇所
AIブラウザを業務で使ってよいかの判断方法。4つの評価項目と、申請の受け付け方
出典
この記事について
メクバリ編集部
シャドーAI対策エージェント「メクバリ」を開発する株式会社B-Rocaが、生成AIを安全に業務で使うための情報をお届けしています。B-RocaはAIの研究開発から、企業のAI活用を現場に定着させる伴走支援までを手がけています。





