Une question rapide avant de téléverser trois mois de données d'entrées et de sorties pour une prévision de haute saison : savez-vous ce que le modèle va retenir ?
En 2023, des ingénieurs de Samsung ont collé du code source de puces dans ChatGPT pour le déboguer, et le code a fini dans les données d'entraînement. Samsung fabrique des puces. Vous exploitez un entrepôt, et vos données semblent moins "critiques" — jusqu'à ce que vous les énumériez. Les SKU clients et la vélocité des ventes. Les tarifs contractuels des transporteurs. Les chiffres de productivité de chaque préparateur. Les prix de règlement fournisseurs. Si tout cela entre dans le jeu d'entraînement d'un modèle public, vous n'avez pas fuité une ligne de code. Vous avez fuité l'économie de toute votre entreprise.
Laissez-moi classer vos données d'entrepôt selon leur dangerosité entre de mauvaises mains.
Niveau un : les données commerciales clients. Les ventes par SKU, la cadence des entrées et sorties, les positions de stock — c'est le secret commercial d'une marque, et en tant que 3PL vous avez presque certainement signé des clauses de confidentialité qui le couvrent. Donner cela à un modèle tiers, c'est sous-traiter votre obligation de confidentialité à un système que vous ne contrôlez pas.
Niveau deux : les données de prix. Vos remises transporteurs, les tarifs que vous citez aux clients, les prix de règlement fournisseurs. Le prix est la dernière carte sur la table de négociation. Une fois que le modèle l'a, un concurrent peut l'en extraire avec les bons prompts.
Niveau trois : les données de personnes. Les unités par heure de chaque préparateur, les taux d'erreur, la présence. Les États américains resserrent sans cesse la confidentialité des données des employés — les lois californiennes sur la vie privée couvrent désormais aussi les données des employés. Votre conseiller juridique ne sera pas ravi que de vraies données de personnel entrent dans un modèle.
Rien de tout cela ne signifie que vous ne pouvez pas utiliser l'IA sur des données d'entrepôt. Cela signifie que vous désensibilisez d'abord, et que vous le faites correctement. Voici la liste que je passe en revue avec les clients.
Supprimez les identifiants directs. Noms de clients, noms de transporteurs, noms d'employés, numéros de badge — tout remplacé par des ID aléatoires sans signification. Pas "Client A", que n'importe qui peut rétro-ingénierer. Des ID aléatoires, avec la table de correspondance stockée hors ligne.
Généralisez les quasi-identifiants. Les parcours de picking précis à l'emplacement deviennent zonaux. Les horodatages précis à la minute deviennent horaires. Les données par SKU sont agrégées par catégorie partout où l'analyse le permet. La règle que je donne à chaque équipe : le modèle reçoit toujours la granularité la plus grossière avec laquelle l'analyse peut survivre.
Transformez les données de prix. Les tarifs contractuels et les frais cités restent soit hors du jeu de données, soit passent par une normalisation — convertissez-les en indice, par exemple. Le modèle a besoin des relations relatives entre les prix, pas de votre plancher réel.
Lisez les conditions de données avant de signer quoi que ce soit. Les conditions d'utilisation de votre outil d'IA disent-elles que les entrées utilisateur ne seront pas utilisées pour l'entraînement ? Les offres entreprise et gratuite diffèrent souvent exactement sur ce point. L'offre gratuite est bon marché parce que vos données sont le paiement.
Et le cinquième point, pour les données qui restent trop sensibles après tout cela : exécutez en local. Un modèle open source déployé en local n'égalera pas les modèles de pointe, mais les données ne quittent jamais votre réseau. C'est un vrai compromis entre capacité et sécurité, et sur ce point je choisis la sécurité à chaque fois.
Faites entrer trois phrases dans le contrat
Quand vous signez avec un fournisseur d'IA, les conditions de données ne peuvent pas vivre seulement dans le deck commercial. Elles doivent être sur papier. Trois phrases sont non négociables. Une : les données d'entrée utilisateur ne seront pas utilisées pour l'entraînement du modèle — dit explicitement, sans marge de manœuvre. Deux : où les données sont stockées, combien de temps elles sont conservées, et si elles sont supprimées à expiration. Trois : les obligations de notification de violation et la responsabilité — à quelle vitesse ils vous préviennent, et ce qu'ils paient. Si l'une des trois manque, le juridique devrait le renvoyer.
Relisez les conditions à chaque renouvellement, car les entreprises d'IA changent leurs conditions plus vite que quiconque. La promesse de l'an dernier peut ne pas survivre à la mise à jour de cette année. Ne renouvelez pas automatiquement ; examinez d'abord les clauses de données.
Si vous servez des clients de l'UE, il y a une autre couche : sous le RGPD, les données des employés et des clients sont des données personnelles, et les déplacer vers des serveurs à l'étranger exige des mécanismes de transfert appropriés. Avant de donner à un modèle de fournisseur étranger des données contenant du personnel de l'UE, assurez-vous que la chaîne de transfert est conforme. N'attendez pas que le régulateur pose la question.
Le correctif de processus : qui a le droit d'exporter des données
Ce que la technologie ne peut pas empêcher, le processus doit le faire. Je recommande une règle simple : toute exportation massive de données métier vers un outil d'IA externe exige l'approbation de qui possède les données. L'approbation vérifie trois choses : a-t-on désensibilisé, les conditions contractuelles ont-elles été examinées, et existe-t-il une alternative plus grossière. Les petites entreprises sans propriétaire de données peuvent faire approuver par le fondateur — l'idée est que "exporter" ne peut pas être le clic désinvolte d'une personne.
Le formulaire d'approbation n'a pas besoin d'être sophistiqué. Une page : quelles données, quel outil, quelle désensibilisation, date d'expiration. Cette page vous sauvera lors d'un audit. Conservez les formulaires au moins aussi longtemps que l'exige votre politique de conservation des données — les auditeurs adorent demander ceux de l'an dernier.
Puis il y a la réalité de l'IA fantôme. Vous pouvez écrire toutes les politiques que vous voulez ; pendant ce temps un commercial colle un devis client dans un chatbot gratuit pour le "polir" avant une échéance. Cela arrive dans toutes les entreprises. Vous ne pouvez pas l'empêcher, alors canalisez-le : achetez à l'entreprise une offre d'IA d'entreprise approuvée avec les conditions de données négociées, et l'incitation à utiliser l'offre gratuite disparaît. Budgétisez-le en informatique — c'est moins cher qu'une seule fuite.
La formation compte aussi, mais sautez le diaporama. Montrez à l'équipe des opérations deux cas réels, donnez-leur une page sur ce qui peut et ne peut pas être collé, et vous irez plus loin qu'avec une heure de droit de la vie privée.
Voici votre devoir pour demain, et cela prend vingt minutes. Exportez un vrai jeu de données de votre système et jouez l'attaquant : pouvez-vous identifier un client précis à partir de lui ? Pouvez-vous reconstituer le vrai coût d'une ligne ? Si oui, votre désensibilisation n'est pas terminée.
Un modèle ne gardera jamais vos secrets pour vous. La seule garantie de confidentialité dans tout le pipeline, c'est le travail que vous faites avant que les données n'entrent.
Traduit de l'anglais. En cas de divergence, la version anglaise fait foi.
