シャドーAI対策に国産製品を選ぶ判断軸。日本語の機密情報は文脈で決まる

「国産のものはありますか」と聞かれる理由

シャドーAI対策の製品を探している担当者の方から、「国産のものはありますか」「日本語でサポートを受けられますか」というご質問をよくいただきます。

この質問は、日本の会社から買いたいという意味だけではありません。生成AIへ送られようとしている文章が機密にあたるかどうかを、日本語で正しく判定できるのか、という確認です。

日本語の機密情報は、言葉ではなく文脈で決まる

ある文章が機密情報を含むかどうかは、書かれている単語だけでは決まりません。

たとえば、取引先の社名が1つ書かれているとします。公開済みの導入事例として書かれていれば、機密にはあたりません。同じ社名が、まだ公表していない価格や納期とともに書かれていれば、機密にあたります。

社内でしか通じない略称も同じです。「A案件」「第2フェーズ」のような呼び方は、社外の人が見ても意味がわかりませんが、社内では特定の商談を指します。この対応づけは会社ごとに違います。

ルールで拾えるものと、拾えないもの

形式が定まっている情報は、キーワードや正規表現で検出できます。

・マイナンバー　・クレジットカード番号　・電話番号　・メールアドレス　・口座番号

一方で、次のような情報は形式が定まっておらず、ルールでは拾えません。

・取引先名、担当者の氏名　・未公表の案件名、社内の略称　・交渉中の価格や納期　・人事や組織変更に関する記述

後者を判定するには、文脈を読むモデルが必要になります。そしてモデルの精度は、どの言語のどんな文書を前提に作られたかで変わります。

判定モデルを日本語で調整するということ

日本語の業務文書には、日本語固有の事情があります。

敬語や社内用語によって同じ内容が何通りにも書けること。漢字・ひらがな・カタカナ・英字が1つの文に混ざること。主語が省かれること。会社名の表記が「株式会社○○」「○○株式会社」「○○」で揺れること。

こうした条件のもとで、どこからが機密にあたるのかを切り分けるには、日本語の業務文書で判定結果を1件ずつ確認し、調整を重ねる作業が必要になります。この作業は、日本語を日常的に読み書きし、日本の商習慣を前提にできる体制でなければ進みません。

製品を選ぶ際は、日本語の判定精度をどのように確かめているのか、調整を誰がどこで行うのかを、各社に確認されることをおすすめします。

判定を従業員のパソコン内で完結させる

判定を外部のサーバーで行う設計の場合、判定のために入力内容そのものを社外へ送ることになります。機密情報の入力を止めるために、機密情報を社外へ送るという構造になります。

「メクバリ」は、判定処理を従業員のパソコン内で完結させています。記録するのは情報の種類と件数で、入力された文章そのものが当社を含む外部のサーバーへ送られることはありません。判定モデルを自社で開発しているため、クラウドを経由せず、お客様が管理するサーバー内で稼働させる構成にも対応できます。

サポートが日本語であることで変わること

判定のルールは、導入して終わりではなく、運用しながら調整していくものです。

「この社名は検知しなくてよい」「この案件名は必ず止めてほしい」といった要望は、使い始めてから出てきます。開発している会社へ日本語で直接相談できるかどうかで、この調整にかかる時間が変わります。

「メクバリ」は、製品の開発、判定モデルの開発、導入後のサポートのいずれも、当社が日本国内で行っています。管理画面、週次サマリ、月次レポートもすべて日本語です。

よくある質問

国産であれば、日本語の判定精度は高いのですか

国産であること自体が精度を保証するわけではありません。確認していただきたいのは、次の3点です。

・日本語の業務文書で、判定結果を検証しているか

・形式の定まらない情報を、どこまで文脈で判定できるか

・判定の調整を、誰がどこで行うのか

海外製品では、日本語の機密情報を判定できないのですか

そのようなことはありません。海外製品でも日本語に対応しているものはあります。違いが出るのは、形式の定まらない日本語の情報をどこまで文脈で判定できるか、その精度をどう確かめ、現場に合わせてどう調整するかという運用の部分です。

オンプレミス環境でも導入できますか

導入いただけます。判定モデルを自社で開発しているため、クラウドを経由せず、お客様が管理するサーバー内で稼働させる構成に対応しています。

まず自社の実態を把握したい場合、何から始められますか

無料シャドーAI診断をご用意しております。費用はかかりません。社内に検知の仕組みを導入し、約2週間にわたり実際の利用状況を記録したうえで、結果をご報告します。