Una pregunta rápida antes de subir tres meses de datos de entradas y salidas para un pronóstico de temporada alta: ¿sabes lo que el modelo va a recordar?
En 2023, ingenieros de Samsung pegaron código fuente de chips en ChatGPT para depurarlo, y el código terminó en los datos de entrenamiento. Samsung fabrica chips. Tú operas un almacén, y tus datos parecen menos "críticos", hasta que los enumeras. SKUs de clientes y velocidad de ventas. Tarifas contractuales de transportistas. Los números de productividad de cada picker. Precios de liquidación de proveedores. Si eso entra en el conjunto de entrenamiento de un modelo público, no has filtrado una línea de código. Has filtrado la economía de todo tu negocio.
Te clasifico tus datos de almacén por lo peligrosos que son en las manos equivocadas.
Nivel uno: datos comerciales de clientes. Ventas por SKU, cadencia de entradas y salidas, posiciones de inventario: eso es un secreto comercial de una marca, y como 3PL casi seguro firmaste cláusulas de confidencialidad que lo cubren. Alimentar un modelo de terceros con eso es subcontratar tu obligación de confidencialidad a un sistema que no controlas.
Nivel dos: datos de precios. Tus descuentos de transportistas, las tarifas que cotizas a clientes, los precios de liquidación de proveedores. El precio es la última carta en la mesa de negociación. Una vez que el modelo lo tiene, un competidor puede extraerlo con los prompts adecuados.
Nivel tres: datos de personas. Unidades por hora de cada picker, tasas de error, asistencia. Los estados de EE. UU. siguen endureciendo la privacidad de datos de empleados: las leyes de privacidad de California ahora cubren también los datos de empleados. A tu asesor legal no le va a encantar que datos reales de personal entren en un modelo.
Nada de esto significa que no puedas usar IA con datos de almacén. Significa que primero desensibilizas, y lo haces bien. Aquí está la lista que repaso con los clientes.
Elimina los identificadores directos. Nombres de clientes, nombres de transportistas, nombres de empleados, números de credencial: todo reemplazado por IDs aleatorios sin significado. No "Cliente A", que cualquiera puede revertir. IDs aleatorios, con la tabla de correspondencia guardada fuera de línea.
Generaliza los cuasi-identificadores. Las rutas de picking precisas al slot pasan a nivel de zona. Las marcas de tiempo precisas al minuto pasan a ser por hora. Los datos por SKU se agregan a categoría donde el análisis lo permita. La regla que doy a cada equipo: el modelo siempre recibe la granularidad más gruesa con la que el análisis pueda sobrevivir.
Transforma los datos de precios. Las tarifas contractuales y los cargos cotizados o se quedan fuera del conjunto de datos o pasan por normalización: convertirlos a un índice, por ejemplo. El modelo necesita las relaciones relativas entre precios, no tu piso real.
Lee los términos de datos antes de firmar nada. ¿Los términos de servicio de tu herramienta de IA dicen que las entradas de usuario no se usarán para entrenamiento? Los planes empresarial y gratuito suelen diferir justo en este punto. El plan gratuito es barato porque tus datos son el pago.
Y el quinto punto, para datos que después de todo eso siguen sintiéndose demasiado calientes: ejecútalo en local. Un modelo de código abierto desplegado en local no igualará a los modelos de punta, pero los datos nunca salen de tu red. Este es un verdadero compromiso entre capacidad y seguridad, y en este punto yo siempre me pongo del lado de la seguridad.
Mete tres frases en el contrato
Cuando firmes con un proveedor de IA, los términos de datos no pueden vivir solo en la presentación de ventas. Tienen que estar en papel. Tres frases son innegociables. Una: los datos de entrada del usuario no se usarán para entrenamiento del modelo, dicho explícitamente, sin margen de maniobra. Dos: dónde se almacenan los datos, cuánto tiempo se conservan, y si se eliminan al vencimiento. Tres: obligaciones de notificación de brechas y responsabilidad: qué tan rápido te avisan, y qué pagan. Si falta alguna de las tres, legal debería devolverlo.
Relee los términos en cada renovación, porque las empresas de IA cambian sus términos más rápido que nadie. La promesa del año pasado puede no sobrevivir la actualización de este año. No renueves en automático; revisa primero las cláusulas de datos.
Si atiendes clientes de la UE, hay otra capa: bajo el GDPR, los datos de empleados y clientes son datos personales, y moverlos a servidores en el extranjero necesita mecanismos de transferencia adecuados. Antes de alimentar el modelo de un proveedor extranjero con datos que incluyan personal de la UE, asegúrate de que la cadena de transferencia cumpla. No esperes a que el regulador pregunte.
La solución de proceso: quién puede exportar datos
Lo que la tecnología no puede prevenir, el proceso tiene que hacerlo. Recomiendo una regla simple: cualquier exportación masiva de datos de negocio a una herramienta de IA externa requiere la aprobación de quien sea dueño de los datos. La aprobación verifica tres cosas: si se desensibilizó, si se revisaron los términos del contrato, y si hay una alternativa más gruesa. Las empresas pequeñas sin dueño de datos pueden hacer que apruebe el fundador: el punto es que "exportar" no puede ser el clic casual de una persona.
El formulario de aprobación no necesita ser sofisticado. Una página: qué datos, qué herramienta, qué desensibilización, fecha de vencimiento. Esa página te salvará en una auditoría. Guarda los formularios al menos tanto como exija tu política de retención de datos: a los auditores les encanta pedir los del año pasado.
Luego está la realidad de la IA en la sombra. Puedes escribir todas las políticas que quieras; mientras tanto un vendedor pega una cotización de cliente en un chatbot gratuito para "pulirla" antes de una fecha límite. Pasa en todas las empresas. No puedes prevenirlo, así que canalízalo: cómprale a la empresa un plan empresarial de IA aprobado con los términos de datos negociados, y el incentivo de usar el plan gratuito desaparece. Presupéstalo en TI: es más barato que una sola filtración.
La capacitación también importa, pero omite la presentación de diapositivas. Muéstrale al equipo de operaciones dos casos reales, dales una hoja de lo que se puede y no se puede pegar, y llegarás más lejos que con una hora de ley de privacidad.
Aquí está tu tarea para mañana, y toma veinte minutos. Exporta un conjunto de datos real de tu sistema y juega al atacante: ¿puedes identificar a un cliente específico a partir de él? ¿Puedes deducir el costo real de una ruta? Si puedes, tu desensibilización no está terminada.
Un modelo nunca guardará tus secretos por ti. La única garantía de confidencialidad en todo el pipeline es el trabajo que haces antes de que los datos entren.
Traducido del inglés. En caso de discrepancia, prevalece la versión en inglés.
