繁忙期の需要予測のために3か月分の入出荷データをアップロードする前に、1つだけ質問です。そのモデルが何を記憶するか、ご存じですか？
2023年、SamsungのエンジニアがデバッグのためにチップのソースコードをChatGPTに貼り付け、そのコードが学習データに混ざりました。Samsungはチップを作っています。あなたは倉庫を運営していて、データは一見「重要」とは思えない——実際に列挙するまでは。顧客のSKUと販売速度。運送会社の契約運賃。各ピッカーの生産性数値。仕入先の決済単価。それが公開モデルの学習データセットに入れば、漏らしたのは1行のコードではありません。ビジネス全体の経済構造を漏らしたのです。
倉庫データを、悪意ある手に渡った時の危険度順にランク付けしましょう。
第1層：顧客の商用データ。SKU単位の売上、入出荷のリズム、在庫ポジション——それはブランドの営業秘密であり、3PLとしてあなたはほぼ間違いなく守秘条項にサインしています。サードパーティのモデルにそれを渡すことは、守秘義務を自分が制御できないシステムに外注することです。
第2層：価格データ。運送会社の割引、顧客に提示する運賃、仕入先の決済単価。価格は交渉のテーブルに残された最後のカードです。モデルがそれを手にすれば、競合は適切なプロンプトで引き出せます。
第3層：人のデータ。ピッカーの1時間あたり処理数、エラー率、出勤状況。米国の各州は従業員データのプライバシーを締め付け続けています——カリフォルニア州のプライバシー法は今や従業員データも対象です。本物の人事データがモデルに入ることを、顧問弁護士は喜ばないでしょう。
だからといって倉庫データにAIを使えないわけではありません。先に非識別化する、それをきちんとやる、ということです。私がクライアントと一緒に確認するチェックリストがこちらです。
直接識別子を除去する。顧客名、運送会社名、従業員名、バッジ番号——すべて意味のないランダムIDに置き換える。「顧客A」はダメです。誰でも逆推測できます。ランダムIDにし、対応表はオフラインで保管します。
準識別子を一般化する。スロット単位まで精密なピック経路はゾーン単位に。分単位まで精密なタイムスタンプは時間単位に。SKU単位のデータは、分析が許す限りカテゴリ単位に集計します。各チームに私が与えるルール：モデルが受け取るのは、分析が耐えられる最も粗い粒度です。
価格データを変換する。契約運賃や提示料金は、データセットから外すか、正規化を通します——例えば指数に変換する。モデルが必要なのは価格間の相対関係であって、あなたの本当の底値ではありません。
何かにサインする前にデータ条項を読む。あなたのAIツールの利用規約は、ユーザー入力を学習に使わないと書いていますか？エンタープライズ版と無料版は、まさにこの点で違うことが多い。無料版が安いのは、あなたのデータが対価だからです。
そして5つ目。それでもまだ熱すぎると感じるデータには：ローカルで実行する。ローカルにデプロイしたオープンソースモデルは最先端モデルには及びませんが、データは社内ネットワークから出ません。これは能力と安全性の本物のトレードオフであり、この点については私はいつも安全性を選びます。
契約書に3つの文を入れる
AIベンダーと契約する時、データ条項は営業資料の中だけに存在してはいけません。紙に書かなければなりません。譲れない3つの文があります。1つ目：ユーザー入力データはモデルの学習に使用しない——明示的に、抜け道なしに。2つ目：データの保管場所、保管期間、期限切れ時の削除の有無。3つ目：漏洩時の通知義務と責任——どれだけ速く通知するか、何を支払うか。この3つのうち1つでも欠けていたら、法務は差し戻すべきです。
更新のたびに条項を読み直してください。AI企業は誰よりも速く条項を変えます。去年の約束は今年の改定で生き残らないかもしれません。自動更新はしない。まずデータ条項をレビューしてください。
EUの顧客にサービスを提供しているなら、もう1層あります：GDPRのもとでは従業員・顧客データは個人データであり、国外サーバーへの移転には適切な移転メカニズムが必要です。EUの人員を含むデータを外国のベンダーのモデルに渡す前に、移転チェーンがコンプライアンスに適合していることを確認してください。規制当局に聞かれるのを待ってはいけません。
プロセスでの修正：誰がデータをエクスポートできるか
技術で防げないことは、プロセスで防がなければなりません。シンプルなルールを1つ推奨します：外部AIツールへの業務データの一括エクスポートは、データの所有者の承認を必須とする。承認では3つを確認します：非識別化したか、契約条項をレビューしたか、より粗い代替案はないか。データ所有者のいない小規模企業は創業者が承認すればいい——要点は「エクスポート」が1人の気軽なクリックであってはならないということです。
承認フォームは凝ったものである必要はありません。1ページ：何のデータか、どのツールか、どんな非識別化か、有効期限。その1ページが監査の時にあなたを救います。フォームはデータ保持ポリシーが求める期間以上保管してください——監査人は去年の分を聞きたがります。
それからシャドーAIの現実があります。ポリシーをいくら書いても、営業担当は締切前に顧客見積を「整える」ために無料チャットボットに貼り付けます。どの会社でも起きています。防げないなら、誘導しましょう：データ条項を交渉済みの承認済みエンタープライズAIプランを会社で購入すれば、無料版を使う動機は消えます。IT予算に計上してください——1回の漏洩より安い。
研修も重要ですが、スライドデッキは飛ばしましょう。オペレーションチームに実際の事例を2つ見せ、貼り付けていいもの・ダメなものを1枚にまとめて渡せば、プライバシー法の1時間講義より効果があります。
明日の宿題です。20分でできます。システムから本物のデータセットをエクスポートして、攻撃者ごっこをしてください：そこから特定の顧客を特定できますか？ある路線の真のコストを逆算できますか？できるなら、非識別化は未完成です。
モデルはあなたの秘密を守ってはくれません。パイプライン全体で唯一の守秘保証は、データが入る前にあなたが行う作業です。
英語版からの翻訳。内容に相違がある場合は英語版を優先します。
