Value Conference 2026でAIエージェントのガバナンスについて技術講演を実施
2026年10月21日、パシフィコ横浜で開催されたValue Conference 2026の技術講演に、株式会社B-Rocaの代表取締役 二宮忠志郎が登壇しました。AIエージェントを業務で使うときの確認事項を3つの問いに整理し、機微情報の判定を端末内で行う自社開発の判定モデルについても紹介しました。
◾️ 概要
企業のAI利用におけるセキュリティとガバナンスを専門とする株式会社B-Roca（本社：東京都文京区、以下 B-Roca）の代表取締役 二宮忠志郎は、2026年10月21日、パシフィコ横浜で開催された「Value Conference 2026」（主催：公益社団法人日本バリュー・エンジニアリング協会）の技術講演に登壇しました。
演題は「AIエージェントのセキュリティ 3つの問い」です。AIエージェントを業務に入れるときに会社として確認すべきことを、入れてよいか（入力してよい情報か）、繋いでよいか（社内のデータやシステムにつないでよいか）、任せてよいか（操作を任せてよいか）の3つに分けて説明しました。
講演では、B-Rocaが開発を進めている判定モデルについてもお話ししました。判定する対象そのものが、社外のサーバーに出したくない情報です。そのため、ローカル端末で動くか、社内のインフラで運用できる判定モデルが必要になります。
◾️ 登壇の概要
名称：Value Conference 2026
主催：公益社団法人日本バリュー・エンジニアリング協会
会期：2026年10月20日（火）・21日（水）
会場：パシフィコ横浜 会議センター
登壇：2026年10月21日（水）12時30分〜13時00分／技術講演（発表20分・質疑5分）
演題：AIエージェントのセキュリティ 3つの問い
登壇者：株式会社B-Roca 代表取締役 二宮忠志郎
主催の公益社団法人日本バリュー・エンジニアリング協会（日本VE協会）は、1965年に創設され、2011年に公益社団法人へ移行した団体です。バリュー・エンジニアリング（VE：Value Engineering）は、製品やサービスの機能とコストの関係を見直して価値を高める手法で、日本では主に製造業と建設業で使われてきました。
協会の会員名簿（2026年9月30日現在）には、正会員55団体、賛助会員68団体が掲載されています。正会員には、IHI、いすゞ自動車、川崎重工業、マツダ、オムロン、ニコン、パナソニック、日立製作所、三菱電機、ナブテスコ、タダノ、鹿島建設、東京ガス、西日本旅客鉄道、首都高速道路などが名を連ねています。Value Conferenceは協会が開く大会で、定員300名、参加費は一般88,000円（税込）です。会員企業の研究開発、設計、生産技術、調達の担当者が集まります。
◾️ 講演の背景
生成AIの使い方が、質問に答えてもらう使い方から、作業そのものを任せる使い方へ移りつつあります。これにともない、会社が確認すべきことの単位が変わりました。
これまでの問いは「誰が、どのAIを、どう安全に使うか」でした。アカウントを発行し、研修を行い、利用規程を配れば、管理の単位は人でそろいます。
AIエージェントを使い始めると、1人の社員が複数のAIエージェントを同時に動かします。管理の単位は人ではなくAIエージェントになり、問いは「誰のAIエージェントが、安全に作業を進めているか」に変わります。どの社員の指示で動いたのか、どの権限を持っていたのか、何をしたのか。この3つが分からないと、問題が起きた後に説明ができません。
AIエージェントとは何か
AIエージェント（AI agent）とは、目的を受け取り、手順を自分で決めて、操作まで行うAIのことです。人が質問して人が操作するチャットAIと違い、ファイルを開く、メールを送る、社内システムを更新するといった操作までをAIが進めます。
AIガバナンスとは何か
AIガバナンス（AI governance）とは、AIを安全に使うための社内ルールと管理の仕組みのことです。利用規程の策定だけでなく、規程どおりに使われているかを確かめる手段と、問題が起きたときに記録から説明できる状態までを含みます。
◾️ 問い1 入れてよいか
1つ目は、AIに入力した情報がどう扱われるかの確認です。講演では、利用規約と契約で確かめる点を3つ挙げました。入力が学習に使われる契約か、データがどこに保存されるか、無償版や個人契約と法人契約で何が変わるかの3つです。
研究開発の現場では、この確認が特許の新規性に直結します。特許法第29条第1項第1号は、出願前に公然知られた発明は特許を受けることができないと定めています。守秘義務のある相手に開示しただけであれば公然知られたことにはなりませんが、入力が学習に使われる環境に出願前の発明を入れた場合、新規性を失うおそれがあります。共同研究先から受け取った情報についても、秘密保持契約（NDA：Non-Disclosure Agreement）の範囲を確認するまでAIに入力しない運用にします。個別の案件は、弁理士に確認すべき論点です。
3つの問いのうち、あらかじめ決めた基準に当てはめて判定できるのは、この問い1の範囲だけです。問い2と問い3は、その場の状況を見て判断することになります。
◾️ 問い2 繋いでよいか
2つ目は、社内のデータやシステムにAIをつないだ後の話です。
AIは、質問した人に合わせて読む範囲を変えません。広い権限を持つアカウントをAIエージェントに渡すと、本来その資料を見られない社員の質問にも、AIが中身を含めて答えてしまいます。
また、AIに読ませた文書の中に書かれた指示に、AIが従ってしまうことがあります。これを間接プロンプトインジェクション（indirect prompt injection）といいます。取引先から届いた見積書、仕様書、見積依頼書（RFQ：Request for Quotation）のように、外部から届く文書を読ませる業務ほど狙われます。
情報漏えいが成立するのは、機密データを読める、信頼できない入力を受け取る、外部へ送信できる、の3つがそろったときです。この3条件はlethal trifecta（リーサル・トライフェクタ）と呼ばれています。対策は、3つのうち1つをなくすことです。外部から届いた文書を読むAIエージェントには送信の権限を渡さない、機密データを読むAIエージェントには外部から届いた文書を読ませない、といった分け方になります。
あわせて、操作を1手ずつ確認する方式の限界も説明しました。社内の試験データを開く、取引先への返信を作成する、そのメールにファイルを添付して送信する。1つずつ見ればどれも日常業務として許可される操作ですが、順番に実行すると「社外秘の試験データを社外に送った」ことになります。操作を1手ずつではなく、並びで確認する仕組みが必要です。
◾️ 問い3 任せてよいか
3つ目は、操作そのものを任せたときの話です。
チャットAIの間違いは画面に出た提案の段階で止められますが、AIエージェントの間違いは「送信済み」「発注済み」「更新済み」の状態で見つかります。そのため、実行前と実行後の両方に備えを置きます。
実行前は、元に戻せる操作と戻せない操作を分けます。下書きの作成、集計、要約は任せ、送信、発注、削除、外部への公開は人が承認してから実行します。任せる操作についても、権限は1回分だけ渡します。必要な範囲と期限だけ有効な認証情報を、操作のたびに発行する方式です。これをスコープ付きトークン（scoped token）といいます。
実行後は、AIエージェントが変更した部分だけを元に戻せるかどうかが問題になります。システム全体をある時点の状態に戻すと、同じ期間に他の社員が行った作業も消えてしまうためです。部分的に戻すには、どの社員のAIエージェントが、何を読み、何を変更したかの記録が要ります。
◾️ 機微情報の判定を社内で行うモデルを開発しています
講演の後半では、問い1「入れてよいか」を仕組みで判定する方法を扱いました。
判定のために入力を外部のLLMへ送ると、守りたい情報がそのまま社外に出ます。判定はローカル端末か社内のサーバーで行う必要があり、B-Rocaはそのためのモデルの開発を進めています。
判定の方式は3種類あります。正規表現（regular expression）は1件あたりマイクロ秒単位と速く、電話番号やカード番号のように形が決まった情報を得意としますが、文脈は読めません。固有表現抽出（NER：Named Entity Recognition）は数ミリ秒で人名や組織名を抜き出し、前後の文からその語が人名か製品名かを判断できますが、その会社だけで機密扱いになる開発コード名などは判断できません。LLMによる判定は文脈全体で判断できる一方、通常の使い方では秒単位かかり、同じ入力でも結果が変わることがあります。
判定専用モデルとは何か
判定専用モデル（decision model）とは、文章を生成せず、あらかじめ決めた選択肢の中から答えを1つ選んで返すモデルのことです。文章を書かせないぶん速く、結果も安定します。
たとえば「この入力に、社外に出してはいけない情報が含まれるか」という問いに対し、「入力してよい」「入力してはいけない」「人の確認が必要」の3択から1つと、その確からしさを返します。確からしさが低い入力は、人の確認に回します。
同じ方式のサービスは外部にも登場していますが、機密の判定にそれらを使うと、判定のために機密が社外に出ます。B-Rocaは、判定・分類に用途を絞った軽量なモデルを土台に、出力を選択肢の中だけに制限する方式で、社内のサーバーで動く判定モデルを開発しています。
◾️ 会場でお配りした点検表
講演の最後に、9項目の点検表をお示ししました。自社のAIエージェントが満たしているかを確認するためのものです。
問い1 入れてよいか
出願前の発明を、入力が学習に使われる環境に入れていないか。共同研究先から受け取った情報をAIに入れてよいか、契約で確認したか。AIに入れてよい情報の範囲を決め、入力時に社内で自動判定しているか。
問い2 繋いでよいか
機密データ・外部から届いた文書・外部への送信手段の3つを同時に持つAIエージェントはないか。AIエージェントに渡したアカウントは、業務に必要な範囲だけを読めるか。操作を1手ずつではなく、並びで確認する仕組みがあるか。
問い3 任せてよいか
送信・発注・削除・公開の前に、人の承認が入っているか。どの社員のAIエージェントが、何を読み、何を変更したかの記録が残っているか。AIエージェントが誤った操作をしたとき、誰が責任を持ち、どの範囲を元に戻すかが決まっているか。
◾️ 3つの問いの現状
3つの問いをすべて運用できている会社は、まだほとんどありません。
問い1は対応が進んでいます。入力を判定する製品やサービスも出てきました。
問い2と問い3は、管理の方式がまだ固まっていません。これまで想定されてきたのは、あらかじめ人やアカウントごとに権限を決めて固定で割り当てる、静的な権限管理だけです。操作する本人が判断し、結果に責任を負っていたときは、これで足りていました。
AIエージェントは、何を読み、どの手段を使い、どこへ送るかを作業の途中で決めます。事前に決めた権限だけでは管理しきれません。AIエージェントを前提にした管理の方式を、これから各社が整えていくことになります。
◾️ B-RocaのAIセキュリティ・ガバナンス支援
B-Rocaは、AIの安全な利用に必要な取り組みを4つに分けて支援しています。
規程 AI利用規程の策定と、自社の業務に合わせた用途基準の整備を行います。
教育 AIコンプライアンス・ガバナンス研修と、部署別の運用ルールの読み合わせを行います。
検知 シャドーAI検知エージェント「メクバリ」で、会社が把握していないAI利用を見つけます。
制御 AI DLP、AIゲートウェイの設計・構築で、許可したAIサービスの中での使い方を判定し、制御します。
◾️ よくあるご質問
AIエージェントの利用を止めたほうがよいということですか
違います。講演でも、使い方を止めるための話ではなく、安全に始めるための話としてお伝えしました。禁止の範囲を最初から広げると、利用は会社から見えない場所へ移り、かえって管理ができなくなります。何が起きているかを確かめてから、止める範囲を決める順番を推奨しています。
3つの問いのうち、どこから着手すべきですか
問い1「入れてよいか」からです。契約条件と情報の区分で決まるため、判断の基準を作りやすく、仕組みに任せられる範囲も広く取れます。問い2と問い3は、AIエージェントを実際に業務へ入れる範囲が決まってから取り組む順になります。
判定モデルを自社の環境に置くことはできますか
できます。判定モデルはB-Rocaが自社で開発しているため、お客様の環境内に設置する構成に対応します。入力内容を社外に出せない業種では、この構成をご提案しています。
キーワードや正規表現による既存の制限との違いは何ですか
ルールベースの制限は、決まった形の文字列しか見つけられません。文脈を読めないため、必要な入力まで止めてしまうか、危ない入力を通してしまうかのどちらかになります。判定専用モデルは文章の意味で判断します。既存のルールを残したまま、その上に重ねて使うこともできます。
入力した内容は、外部のサーバーに送られますか
送られません。機密かどうかの判定は社員の端末の中で行う設計にしており、プロンプトや添付ファイルの中身が、弊社を含む外部のサーバーへ出ないようにしています。端末の外へ渡すのは判定の結果と分類だけです。SaaSとして提供しているサービスでも、機密情報を弊社のサーバーに残さず、処理の後にすべて削除する方針で運用しています。
講演の依頼はできますか
承っています。社内勉強会、業界団体のセミナー、取引先向けの説明会などに対応しています。お問い合わせフォームよりご連絡ください。
◾️ 関連リンク
シャドーAI検知エージェント「メクバリ」：https://www.broca.co.jp/mekubari
AI伴走支援事業：https://www.broca.co.jp/services/ai-support
◾️ 株式会社B-Roca について
株式会社B-Rocaは、企業のAI利用におけるセキュリティとガバナンスを専門とする会社です。AI利用規程の策定とAIガバナンス体制の構築、シャドーAIの検知、機密情報の入力を端末内で判定するモデルの開発、AI DLPとAIゲートウェイの設計・構築までを手がけています。AIツールの導入支援と人材育成も、この体制づくりとあわせて提供しています。
会社名：株式会社B-Roca
本社所在地：東京都文京区本郷6-25-14
代表取締役：二宮忠志郎
設立：2024年7月
従業員数：20人（業務委託を含む）
コーポレートサイト：https://www.broca.co.jp/
◾️ 本件に関するお問い合わせ
AIガバナンス体制の構築、シャドーAI対策、AIエージェントのセキュリティに関するご相談は、下記のお問い合わせフォームよりご連絡ください。