メクバリを詳しく見る

コラム

生成AIのセキュリティ研修に使える公開資料。IPA「AI利用者のためのセキュリティ豆知識」と30分の進行表

生成AIのセキュリティ研修の教材は、IPAが公開している24ページのスライドで用意できます。資料に書かれている5つの対策、30分で行う場合の進行表、自社で追加する3枚の資料を整理しました。

シャドーAI対策なら「メクバリ」社員がどのAIに何を送ったかを記録し、機微情報の送信は送る前に止めます。メクバリを詳しく見る
株式会社B-Rocaのコラム。生成AIのセキュリティ研修に使える資料。IPAの公開スライドと30分の進行表。シャドーAI対策エージェント「メクバリ」。

IPA「AI利用者のためのセキュリティ豆知識」とは

「AI利用者のためのセキュリティ豆知識」は、IPA(情報処理推進機構)が公開している資料です。全24ページのスライドで、IPAのセキュリティセンターとAIセーフティ・インスティテュートが作成しました。IPAのサイトの「AIセキュリティ」のページに掲載されています。

内容は、AIの基礎知識が4項目、セキュリティ対策が5項目、用語集です。

資料には、利用上の注意が書かれています。厳密性よりも分かりやすさを重視してまとめたこと、AIに関する状況は変化が速く、数カ月で事情が変わる場合があることです。社内の規程の代わりにはなりません。転載や改変をする場合は、IPAが定める利用の条件を確認してください。

資料に書かれている5つの対策

・クラウドAIに営業秘密は教えない

・AIブラウザは社内用と社外用を分ける

・RAG使用時は「混ぜるな危険」にご用心

・外見では詐欺師を見破れないと心得る

・AI仕込みのサイバー攻撃も撃退法は従来通り

RAG(ラグ)は、文書を検索して、その内容をAIの回答に使う仕組みです。3つ目は、メールなど社外から届いたデータを検索の対象に含めると、攻撃を目的としたメールの内容も取り込まれる、という注意です。

2つ目と3つ目は、同じ仕組みによるものです。AIが、読み込んだ文章を指示として実行してしまいます。資料の用語集は、第三者が文章に指示を仕込む攻撃を「間接プロンプトインジェクション」として説明しています。

5つ目は、AIを使った攻撃に対しても、従来のセキュリティ対策が有効だという内容です。

30分で行う場合の進行表

全ページを読み上げると、30分では終わりません。30分で行う場合は、次のように配分します。配分は当社が整理したもので、資料に書かれているものではありません。

・最初の5分:AIの基礎知識。生成AIを「知識豊富だが経験不足の新人」にたとえて説明しているページを使う

・5分から10分:1つ目の対策(営業秘密)

・10分から18分:2つ目と3つ目の対策(AIブラウザとRAG)。理解に時間がかかるため、長く取る

・18分から23分:4つ目と5つ目の対策

・23分から30分:自社で追加する3枚

用語集は、読み上げません。配布して、あとで確認できるようにします。

自社で追加する3枚

IPAの資料は、一般的な内容です。自社でどのAIを使ってよいかは、書かれていません。次の3枚を追加します。

・会社が認めているAIの一覧:担当は情報システム部門。どのAIの利用規約と設定を確認したかを書く

・申請と相談の窓口:使いたいAIがある従業員の、問い合わせ先を書く

・自社の規程の該当する条文:担当は総務部門や法務部門

3枚がない場合、参加した従業員は、研修のあとも、どのAIを使ってよいかが分かりません。3枚は、1回作成すれば、次回は日付を更新して使えます。

資料に載っている調査の数字

資料の1つ目の対策のページには、LayerX Security社の調査の数字が3つ載っています。

・67%の従業員が、個人のアカウントで生成AIツールを使用している

・77%の従業員が、生成AIツールにデータを貼り付けている

・法人から個人利用のサービスに貼り付けられるデータのうち、32%は生成AIツールが受け取っている

社内で引用するときは、海外の企業による調査であることを添えます。日本の会社を対象にした調査ではありません。

研修の前後を、同じ基準で比べる

研修の効果は、参加者のアンケートだけでは確認できません。

当社の「メクバリ」は、ChromeとEdgeの拡張機能と、WindowsとMacのアプリで、生成AIの利用を記録します。研修の前と後で、会社が認めていないAIの利用や、機微情報を含む入力の件数を、同じ基準で比べられます。月次レポートは、経営会議の資料に使えます。

AIブラウザを社内用と社外用に分けて使えているかどうかや、RAGの検索の範囲が適切かどうかは、メクバリでは確認できません。

よくある質問

生成AIのセキュリティ研修に、無料で使える教材はありますか

IPAが、「AI利用者のためのセキュリティ豆知識」を公開しています。全24ページのスライドで、AIの利用者に向けた内容です。利用の条件は、IPAのサイトで確認してください。

研修は、どのくらいの時間で行えますか

本コラムでは、30分で行う場合の配分を示しました。基礎知識に5分、5つの対策に18分、自社で追加する資料に7分です。

IPAの資料だけで、研修を行えますか

自社でどのAIを使ってよいかは、IPAの資料には書かれていません。会社が認めているAIの一覧、申請と相談の窓口、自社の規程の該当する条文の3枚を追加します。

メクバリの機能や導入の流れを、資料で確認できますか

サービス紹介資料をご用意しています。機能・プラン・導入の流れを1冊にまとめた資料です。社内での検討や稟議にお使いいただけます。資料ダウンロードからお申し込みください。そのほかのご相談は、お問い合わせからご連絡ください。

関連ページ

シャドーAI対策エージェント「メクバリ」の機能と導入の流れ

生成AI利用規程ひな形+運用チェックリスト(無料でダウンロードできます)

シャドーAIは禁止しても減らない。先に用意する、会社が認めるAIの一覧

情報セキュリティ10大脅威 2026で、AIの利用をめぐるリスクが3位に。社内説明で引用できる箇所

AIブラウザを業務で使ってよいかの判断方法。4つの評価項目と、申請の受け付け方

出典

IPA「AI利用者のためのセキュリティ豆知識」

IPA「AIセキュリティ」(掲載ページ)

この記事について

メクバリ編集部

シャドーAI対策エージェント「メクバリ」を開発する株式会社B-Rocaが、生成AIを安全に業務で使うための情報をお届けしています。B-RocaはAIの研究開発から、企業のAI活用を現場に定着させる伴走支援までを手がけています。

コラム一覧へ戻る