大手企業向けAIゲートウェイ構築サービスを開始。許可したAIの「誰が、どう使うか」まで統制

◾️ 概要

AIシステム開発および企業向けAI活用支援を行う株式会社B-Roca（本社：東京都文京区、代表取締役：二宮忠志郎、以下 B-Roca）は、大手企業向けに「AIゲートウェイ導入支援サービス」の提供を開始しました。

本サービスは、社内から生成AIサービスへ出ていく通信を1か所に通し、そこにB-Rocaが自社で開発した判定モデルを置くものです。どのAIサービスを使ってよいかを決めるだけでなく、許可したサービスの中で、その使い方が規程上認められるかどうかを判定します。

判定は入力の中身だけでは決めません。同じ文章でも、入力したのが誰かによって、認められる場合と認められない場合があります。本サービスは、何が入力されたかと、誰が入力したかの両方を見て判定します。

あわせて、AIの利用状況と費用が1か所に集まるため、AI利用コストの可視化と削減にも使えます。

◾️ 背景：サービスを許可したことと、使い方を許可したことは別

大手企業のAIセキュリティ対策は、これまでネットワークのプロキシ設定が中心でした。特定の生成AIサービスへの通信を遮断し、会社が認めたサービスだけを残す。入口は揃いますが、そこから先は見えません。

承認したAIだからといって、どんな使い方をしてよいわけではありません。公開前の決算数値を貼り付けて要約させる。顧客の氏名と連絡先が並んだ名簿をそのまま読み込ませる。他社から預かった図面や仕様書をアップロードする。いずれも会社が認めたサービスの上で起きますが、規程で認めた使い方ではないかもしれません。サービスを許可したことと、その中のあらゆる使い方を許可したことは、本来は別の話です。

そして、認められるかどうかは中身だけでは決まりません。人事の担当者が人事評価の文面をAIに直させるのと、別部署の社員が同じ文面を入れるのとでは、意味が違います。経理が未公開の数値を扱うのと、関係のない部署の社員が同じ数値を扱うのとでも違います。会社の規程は、もともと誰がどの情報を扱ってよいかを決めています。AIへの入力についてだけ、その線が引かれないまま使われてきました。

プロキシの設定で引ける線は、サービス単位までです。このサービスは使ってよい、と決めた時点から先は、現場一人ひとりの判断に委ねられてきました。

◾️ これまでの壁：判定の費用が見合わず、ルールベースで止まっていた

入力の一つひとつについて、機微な情報が含まれるか、その人の立場で認められる使い方かを判定するには、文章の中身と文脈を読む必要があります。汎用の大規模言語モデル（LLM）に通して判定させる方法は以前からありましたが、全社員の入力をもう一度AIに通すことになり、処理費用が積み上がります。AIの利用料より判定の費用のほうが大きくなる、という逆転も起きていました。判定を挟むぶん、応答までの時間も伸びます。

費用が見合わないため、実際に使われてきたのはルールベースの判定でした。キーワードや正規表現で、マイナンバーらしい数字の並びやクレジットカード番号の形を探す方式です。安く速く動きますが、文脈は読めません。「◯◯社との契約を来月で切る方向で進めたい」といった文章は、どの語句にも引っかからないまま通ります。逆に、社内でよく使う語を禁止語に入れると、問題のない入力まで止まります。誰が入力したかという観点は、そもそも扱えません。現場からは止まりすぎると言われ、監査からは見えていないと言われる状態が続いていました。

ここ最近、判定や分類に用途を絞った軽量なモデルが各社から提供され始め、前提が変わりました。B-Rocaはこの系統のモデルを土台に、日本語の業務文書と日本企業のAI利用規程に合わせてファインチューニングし、判定モデルを自社で内製しました。入力の中身と、入力した人の部署・役職・職務を合わせて見たうえで、規程上認められる使い方かどうかを判定します。汎用LLMに毎回問い合わせる方式に比べ、1件あたりの処理費用と応答時間を抑えられます。

◾️ サービスの内容

1. AIゲートウェイの設計・構築

社内から生成AIサービスへ出ていく通信を1か所に集約する経路を設計し、既存のプロキシやネットワーク構成に組み込みます。ブラウザから使う生成AIサービスと、社内システムからAPIで呼び出すAIの両方を対象にできます。通信を社員の認証情報と結びつけ、誰の利用かが分かる状態にします。

2. 判定基準の設計と判定モデルのチューニング

貴社のAI利用規程を読み込み、許可する使い方、条件付きで許可する使い方、禁止する使い方を、判定の基準に落とし込みます。あわせて、部署・役職・職務ごとに、扱ってよい情報の範囲と認められる使い方を対応づけます。社内のID基盤や人事マスタと突き合わせることで、同じ入力でも立場によって可否を変えられます。機微情報として扱う範囲（個人情報、取引先名、未公開の財務情報、ソースコード、設計情報など）も、業種と取り扱う情報に合わせて調整します。判定モデルはクラウドでの提供のほか、貴社の環境内に設置する構成にも対応します。

3. 検知したときの動きの設計

判定に引っかかったときにどう動くかは、会社の方針に合わせて選べます。記録だけ残す、利用者の画面に注意を表示する、送信そのものを止める、の3段階です。はじめは記録だけで実態を把握し、どこで事故が起きかけているかが見えてから強める進め方を標準としています。

4. ログの集約とレポート

誰が、どのAIサービスに、どの分類の内容を送ったかを記録します。週次と月次でレポートにまとめ、社内の監査や、取引先・親会社からの照会にそのまま出せる形にします。

◾️ AIエージェントが自分で取りに行く情報も対象になる

最近のAIは、利用者が貼り付けた文章だけを扱うわけではありません。社内の文書管理やメール、チャットにつながったAIエージェントは、指示を受けたあと、必要と判断した社内のファイルを自分で探して読みに行きます。このとき参照できる範囲は、その社員に与えられたアクセス権限の範囲です。本人が添付したファイルだけが対象ではありません。

権限があることと、AIに渡してよいことは同じではありません。異動を重ねて実際の職務より広い権限が残っている社員は珍しくありませんし、部署の共有フォルダには、本人が普段は開かない機微な資料も入っています。社員が自分で開くことはなくても、エージェントは指示を達成するために開きます。

AIゲートウェイは、利用者が入力した内容だけでなく、エージェントが自分で取りに行った情報についても、その人がAIに渡してよい範囲かどうかを判定します。権限設計そのものの見直しには時間がかかるため、まずは通信の経路側で線を引く形になります。

◾️ セキュリティだけでなく、コストの面でも効く

AIゲートウェイは、統制の仕組みであると同時に、AI利用の計測点にもなります。通信を1か所にまとめると、セキュリティとは別に、費用の面でも打ち手が取れるようになります。

・どの部署が、どのサービスを、どれだけ使っているかが金額で見えます。契約したまま使われていないアカウントやライセンスを整理できます。
・同じ処理を高性能で高価なモデルに任せ続けている箇所を、軽いモデルに振り分けられます。
・社内で繰り返されている同じ問い合わせについて、応答を再利用し、呼び出しそのものを減らせます。
・部署ごとに利用上限を設け、想定外の費用の急増を止められます。

削減できる幅は、現在の使われ方によって大きく変わります。B-Rocaでは、制御をかける前に2〜4週間ログだけを取り、どこにどれだけ余地があるかを金額で示してから施策を決める進め方をおすすめしています。

◾️ 想定するお客様

・全社で生成AIの利用を認めているが、プロキシでのサービス単位の遮断までしか手が打てていない企業
・キーワードや正規表現による制限を入れたものの、止まりすぎる・漏れるの両方で困っている企業
・親会社、取引先、監査法人から、AIの取り扱いについて説明を求められている企業
・部署ごとにAIの利用料が積み上がり、全体でいくら使っているかが見えていない企業
・従業員数がおおむね500名以上の企業

◾️ B-RocaのAIセキュリティガバナンス

B-Rocaは、AIのセキュリティとガバナンスを、規程・教育・検知・制御の4つで一続きに支援しています。

規程 ── AI利用規程の策定

使ってよいAIサービス、入力してよい情報の範囲、誰がどの情報を扱ってよいか、生成物を社外に出すときの手順を決めます。

教育 ── AIコンプライアンス・ガバナンス研修

経営層・管理職・一般社員で構成を変えて実施します。決めた規程を、現場が判断できる形にします。

検知 ── シャドーAI検知エージェント「メクバリ」

会社が把握していないAI利用を、従業員の端末側で見つけます。

制御 ── AIゲートウェイ導入支援（本サービス）

会社が認めたAI利用を、通信の経路側で規程に沿わせます。

メクバリは、見えていない利用を見つける役割です。AIゲートウェイは、見えている利用を正しい使い方に収める役割です。片方だけでは反対側が空いたままになるため、両方を組み合わせた構成もご提案しています。

◾️ よくあるご質問

AIゲートウェイとは何ですか

AIゲートウェイとは、社内から外部の生成AIサービスへ出ていく通信を1か所に集約し、そこで内容の確認、記録、制御を行う仕組みのことです。従来のプロキシが「どのサービスに通信してよいか」を見るのに対し、AIゲートウェイは「誰が、そのサービスに何を送っているか」まで見ます。

同じ入力でも、人によって可否が変わるのですか

変わります。たとえば人事評価の文面を人事の担当者がAIに整えさせるのは業務の範囲ですが、同じ文面を別部署の社員が入力していれば、本来は見てはいけない情報を扱っていることになります。会社の規程は誰がどの情報を扱ってよいかを定めているので、判定もその線に合わせます。部署・役職・職務のどこまでを判定に使うかは、導入時に決めます。

既存のプロキシやCASB、SWGを入れ替える必要がありますか

ありません。既存の構成を残したまま、生成AI向けの通信だけをAIゲートウェイに通す形で組み込みます。サービス単位の遮断は既存の仕組みに任せ、その先の使い方の判定を本サービスが担う役割分担になります。

キーワードや正規表現による既存の制限との違いは何ですか

ルールベースの制限は、決まった形の文字列しか見つけられません。文脈も、入力した人の立場も扱えないため、止まりすぎるか、素通りするかのどちらかに寄ります。本サービスの判定モデルは、文章の意味と、入力した人の部署・役職・職務を合わせて見たうえで可否を判定します。既存のルールを残したまま、その上に重ねて使うこともできます。

判定モデルを社内に置くことはできますか

できます。判定モデルはB-Rocaが自社で開発しているため、貴社の環境内に設置する構成にも対応します。入力内容を社外に出せない業種では、この構成をご提案しています。

社員が入力した内容は、そのまま保存されますか

保存の範囲は選べます。判定の結果と分類だけを残し、本文は保存しない設定にできます。証跡として本文を残す場合も、閲覧できる担当者を限定し、保存期間を定めたうえで運用します。

社員のAI利用を止めてしまうことになりませんか

初期設定では止めません。記録だけを取り、実態を把握するところから始めます。禁止の線を最初から厳しく引くと、利用は個人のスマートフォンなど会社から見えない場所へ移り、かえって統制が効かなくなります。何が起きているかを確かめてから、止める範囲を決める順番を推奨しています。

シャドーAI検知エージェント「メクバリ」との違いは何ですか

メクバリは従業員の端末側で動き、会社が把握していないAI利用を見つけることを目的としています。AIゲートウェイは通信の経路側に置き、会社が認めたAI利用について、誰が何をどう使っているかを判定して制御します。AIエージェントが社員の権限で自分から社内ファイルを読みに行く場合も、ゲートウェイ側であれば対象にできます。見つける仕組みと、正す仕組みの違いです。

費用と期間はどれくらいですか

対象となる人数、既存のネットワーク構成、判定モデルの設置形態によって変わるため、お問い合わせいただいたうえでお見積りをお出しします。現在のネットワーク構成とAI利用状況の確認からご相談いただけます。

◾️ 関連リンク

シャドーAI検知エージェント「メクバリ」：https://www.broca.co.jp/mekubari

AI伴走支援事業：https://www.broca.co.jp/services/ai-support

◾️ 株式会社B-Roca について

株式会社B-Rocaは、企業のAI活用を「導入して終わり」にせず、日々の業務に定着させるところまで支援するAIスタートアップです。AI伴走支援、AIシステム開発、AIプロダクトの3つを軸に、AIツールの選定・導入から業務への実装、人材育成、AIガバナンス体制の構築までを一貫して提供しています。

会社名：株式会社B-Roca
本社所在地：東京都文京区本郷6-25-14
代表取締役：二宮忠志郎
設立：2024年7月
従業員数：20人（業務委託を含む）
コーポレートサイト：https://www.broca.co.jp/

◾️ 本件に関するお問い合わせ

本サービスに関するご相談・お見積りのご依頼は、下記のお問い合わせフォームよりご連絡ください。

https://www.broca.co.jp/contact