No ano passado, durante uma visita a um armazém no interior do sul da Califórnia, o gerente me mostrou um sistema de câmeras de IA recém-instalado com uma mistura de orgulho e desconforto. Era um problema de privacidade dos funcionários diante das câmeras de IA do armazém, não um problema de câmeras. O prédio tinha pouco mais de 30,000 metros quadrados, com mais de 180 trabalhadores da linha de frente. As contagens de paletes ficaram mais precisas já na primeira semana, disse ele, mas o clima na sala de descanso havia mudado. Os trabalhadores não se opunham à tecnologia em si. Eles não sabiam o que as câmeras estavam observando, nem o que aconteceria depois que o sistema sinalizasse algo. Essa visita me convenceu de que a privacidade dos funcionários diante das câmeras de IA do armazém não é, antes de tudo, um problema técnico. É um problema de conversa, e precisa acontecer antes de as câmeras serem ligadas. É por isso que a privacidade dos funcionários diante das câmeras de IA do armazém precisa ser resolvida antes que a primeira câmera conte um único palete.

Este artigo não é uma avaliação de nenhum produto específico. É uma lista de verificação de três perguntas que um líder de armazém deve resolver com representantes dos trabalhadores, gerentes e o fornecedor do sistema antes da entrada em operação. Se essas três perguntas forem bem resolvidas, a tecnologia pode ajudar. Se forem ignoradas, até um sistema preciso pode ser desfeito pela desconfiança.

O que a câmera de IA do armazém realmente conta

Comece pelo limite: o sistema conta paletes, caixas, locais vazios e corredores bloqueados, ou também rastreia movimentos individuais, tempo de permanência e trajetos a pé? Esses dois tipos de dados são fundamentalmente diferentes. O primeiro descreve o estado das mercadorias. O segundo descreve o comportamento das pessoas e, uma vez que os dois se misturam, uma disputa sobre privacidade dos funcionários é quase inevitável.

O armazém que visitei não havia traçado essa linha com clareza no início. A demonstração do fornecedor focava o reconhecimento de paletes, mas o painel entregue vinha com as estatísticas de movimentação de pessoas ativadas por padrão. O gerente só descobriu uma coluna de tempo de permanência que nunca havia pedido depois da entrada em operação. Mais tarde, o armazém desativou esse recurso e manteve apenas a contagem em nível de mercadorias, e a resistência foi diminuindo aos poucos. A lição é prática: liste cada campo de dados no contrato de compra e, para qualquer recurso desativado por padrão, registre por escrito quem pode ativá-lo e com que fundamento.

Uma abordagem viável é discutir as câmeras em dois usos separados. O primeiro é a contagem operacional: o palete chegou, o local está vazio, o corredor está bloqueado. Esses dados apoiam o planejamento e a reposição. O segundo é a análise do comportamento individual: quem desacelerou, quem parou, quem se desviou. Só porque o segundo é tecnicamente possível não significa que deva ser adotado como ferramenta de gestão. Na minha visão, o primeiro uso pode avançar primeiro, enquanto o segundo merece sua própria proposta, sua própria discussão e seu próprio acordo. Colocar os dois sob um único interruptor é o caminho mais rápido para criar problemas.

A privacidade dos funcionários são três linhas, não um slogan

A privacidade dos funcionários costuma ser escrita como um único princípio, mas, em um armazém, precisa se tornar três linhas concretas. A primeira é a linha da coleta: o que é registrado e o que não é. Áreas de descanso, corredores de vestiários e qualquer lugar perto de banheiros devem estar fora dos limites, sem exceção. Mesmo dentro das áreas de trabalho, os ângulos das câmeras devem evitar closes de rostos, a menos que haja uma razão clara de segurança que já tenha sido explicada.

A segunda é a linha da visualização: quem pode assistir às imagens brutas e quem só pode ver resultados agregados. Na minha visão, a maioria das necessidades de gestão pode ser atendida apenas com resultados agregados, sem necessidade de reproduzir o vídeo bruto. O acesso às imagens brutas deve ser limitado a um número muito pequeno de funções, e cada visualização deve deixar um registro: quem, quando, por qual motivo e qual trecho foi visto. Direitos de visualização sem trilha de auditoria tendem, com o tempo, a se tornar direitos de que ninguém se responsabiliza.

A terceira é a linha da retenção: por quanto tempo os dados são mantidos, onde são armazenados e como são excluídos. As contagens agregadas de paletes podem ser mantidas por um período comercial, mas as imagens brutas merecem um período de retenção bem mais curto e exclusão automática ao expirar, em vez de se acumularem indefinidamente em um disco. Muitas disputas não explodem no dia do lançamento. Elas explodem meses depois, quando alguém pergunta se as imagens de três meses atrás ainda existem e o armazém não consegue responder. É exatamente nesse momento que a confiança começa a vazar.

Uma vez que essas três linhas estejam acordadas, a privacidade dos funcionários deixa de ser uma abstração e se torna uma lista que pode ser afixada na parede. Os trabalhadores podem continuar sem adorar ser contados, mas pelo menos sabem onde está o limite e a quem recorrer com uma preocupação quando ele é ultrapassado.

O que acontece depois que o sistema sinaliza alguém

A terceira pergunta é a mais facilmente negligenciada e a que mais determina se um sistema sobrevive a longo prazo: quando a câmera de IA sinaliza uma exceção, o que acontece em seguida? Vai direto para um registro de desempenho, ou um supervisor a verifica primeiro? O trabalhador é abordado na hora, ou a sinalização surge semanas depois em um resumo mensal?

Vi duas abordagens muito diferentes. Em um armazém, as sinalizações eram enviadas diretamente para os celulares dos supervisores, e os supervisores falavam com os trabalhadores imediatamente. A taxa de falsos positivos não era baixa e, depois de várias conversas assim, os trabalhadores começaram a sentir que o sistema estava ali para pegar pessoas, e não para ajudá-las. Em outro armazém, foi criada uma etapa intermediária: o sistema só informava o local e o tipo de exceção, um líder de equipe a conferia no chão de fábrica, e só um caso confirmado entrava no processo normal de gestão, enquanto os falsos positivos eram registrados e devolvidos ao fornecedor para ajuste. A aceitação no segundo armazém era claramente maior, por uma razão compreensível: as pessoas merecem a chance de explicar um erro, e um sistema merece um ciclo de correção para os próprios erros.

Eis um julgamento contraintuitivo que vale a pena afirmar com clareza: quanto mais preciso o reconhecimento, menos ele deve contornar a verificação humana. Uma precisão maior torna os gerentes mais propensos a tratar a saída do sistema como fato, o que torna o falso positivo ocasional mais prejudicial, e não menos. Uma vez causado esse dano, reconstruir a confiança custa muito mais do que a etapa extra de verificação teria custado. Quanto mais confiável a tecnologia, mais deliberadamente o freio institucional deve ser mantido. Isso não é conservadorismo. É respeito básico pelas pessoas.

A aritmética também é simples. Imagine um armazém com 120 separadores em que o sistema sinaliza 60 exceções por dia. Mesmo que apenas uma em cada dez seja um falso positivo, são seis conversas por dia que precisam de explicação. Sem uma etapa de verificação, as seis viram atrito. Com uma etapa de verificação, a maioria pode ser resolvida no chão de fábrica em dois minutos. O que se economiza não são alguns minutos. É o julgamento geral dos trabalhadores sobre o sistema. Uma vez que esse julgamento se torna negativo, os custos invisíveis de rotatividade, desengajamento e não cooperação silenciosa superam em muito o preço das câmeras.

Converse primeiro, ligue depois

O primeiro armazém que mencionei acabou fazendo algo nada extraordinário: o gerente imprimiu a lista de coleta, os direitos de visualização e os prazos de retenção, afixou-os junto à porta da sala de descanso e realizou uma reunião para responder a todas as perguntas levantadas pelos trabalhadores. O sistema não mudou e os parâmetros não mudaram. O que mudou foi que os trabalhadores sabiam o que as câmeras observavam e o que não observavam. Três meses depois, os ganhos na contagem de paletes permaneciam, e as reclamações na sala de descanso haviam diminuído.

Meu julgamento sobre a tendência é que o debate sobre as câmeras de IA do armazém e a privacidade dos funcionários não vai desaparecer à medida que a tecnologia melhora. À medida que o reconhecimento se torna mais poderoso, o debate vai se aguçar. Os armazéns que definirem os limites cedo transformarão a tecnologia em produtividade. Os armazéns que negociarem apenas o preço e nunca o uso provavelmente passarão muito mais tempo apagando incêndios depois do lançamento.

Portanto, antes de ligar qualquer coisa, resolva três pontos: o que é contado e o que não é; quem pode ver e por quanto tempo; e qual processo segue uma sinalização. Uma vez que esses três pontos estejam acordados, há bastante tempo para discutir taxas de reconhecimento e orçamentos. A tecnologia pode esperar um mês. A confiança, uma vez perdida, leva muito mais tempo para ser reconstruída.

Por Dr. Chen, Pesquisador de cadeia de suprimentos Traduzido do inglês. Em caso de divergência, prevalece a versão em inglês.