창고의 AI 에이전트: 예외 처리가 '기계가 먼저 행동하는' 데까지 얼마나 남았나?

창고 예외 처리에서의 AI 에이전트에 대한 내 결론은 이렇다. 향후 몇 년간 진짜 가치는 "자동 해결"이 아니라 "자동 감시"다. 야간 근무는 기계에 맡기고, 판단은 인간이 내린다. 이 역할 분담은 향후 5년간 변하지 않는다.

2021년 추수감사절 성수기. 캘리포니아 온타리오의 3PL 창고에서 컨설팅을 하고 있었는데, 야간조 슈퍼바이저가 새벽 1시 40분에 전화를 걸어왔다. WMS에서 웨이브가 릴리스됐는데 300건이 넘는 주문의 피킹 작업이 하나도 생성되지 않았고, 컨베이어가 20분째 빈 상태로 돌아가고 있었다는 것이다. 40분을 운전해 현장에 도착해 두 명이서 인터페이스 로그를 한 줄씩 뒤졌다. 범인은 상류 주문 시스템이 한 배치 데이터를 통째로 누락한 것이었다. 아무것도 도착하지 않았으니 WMS는 잘못한 게 없었다. 근본 원인 파악에만 2시간 이상. 2,000건이 넘는 주문은 날이 밝을 때까지 출고되지 못했다. 다음 날 고객이 클레임 이메일을 보냈고, 그달 서비스 요금에서 한 점을 깎았다.

AI 에이전트였다면 우리의 2시간짜리 작업을 10분 만에 끝냈을 것이다. "인터페이스에서 수신한 주문 대 웨이브에서 생성된 작업"을 자동으로 대사하고, 격차를 표시해 의심스러운 배치를 짚어내는 것. 그게 감시의 가치다. 탐지와 진단, 기계가 인간을 압도적으로 앞서는 영역이다.

하지만 "먼저 행동하는" 부분은? 천천히. 이 이야기에는 양면이 있다.

AI 에이전트 예외 처리: 자동화는 오늘날 어디까지 가능한가

비용부터. 나는 "자동 해결" 재앙을 너무 많이 봤다. 2019년, 다른 창고가 자동 조정 규칙을 켰다. 허용 범위 내의 실사 차이는 인간 승인 없이 자동으로 소각 처리됐다. 멋지게 들리지? 세 달 연속으로 시스템은 구조적인 입고 부족을 부지런히 "평탄화"했다. 공급업체가 매 배송마다 약 2%씩 적게 납품했는데, 에이전트는 매번 그걸 덮어줬다. 분기 전수 실사에서 장부와 실물이 수십만 달러 차이 났고, 어느 고리에서 물건이 사라졌는지 재구성할 수 없었다. 더 끔찍한 건 책임 공방이었다. IT는 운영이 규칙을 정의했다고 했고, 운영은 시스템이 알아서 돌아갔다고 했으며, 공급업체에 대한 클레임 시한은 이미 오래전에 지났다. 그 손실을 짊어질 사람이 없었다. 사장이 뒤집어썼다.

솔직히 말하자면, 예외 처리에서 가장 큰 비용은 느림이 아니라 틀림이다. 인간은 느리지만 틀리면 멈춘다. 10배 빠른 기계는 10배 빠르게, 그리고 조용히 틀린다. AI 에이전트의 가장 큰 리스크는 멍청한 게 아니라 부지런한 것이다. 작은 예외를 부지런히 감사 불가능한 재앙으로 키운다.

그래서 선을 분명히 그었다. 정보 집계, 근본 원인 진단, 권장 조치. 이건 에이전트에게 넘긴다. 장부, 돈, 고객과의 약속에 닿는 모든 것은 인간이 쥔다.

AI 에이전트에게 예외 처리를 넘기기 전에, 이 계산을 해보라

계산해보자. 약 100,000제곱피트 규모의 창고는 밤마다 3~5건의 예외 콜이 온다. 멈춘 웨이브, 인터페이스 장애, AMR 라인 정지, 재고 차이 알람. 예외 한 건당 당직 슈퍼바이저가 깨어나서 "현장에 가야 하나"를 판단하기까지 30~40분, 실제 현장 방문은 왕복 2시간이다. 성수기 한 달이면 "인간이 처리해주길 기다리는" 대기 시간이 야간조 슈퍼바이저 급여의 절반만큼 쌓인다.

에이전트의 가치는 그 사람을 대체하는 게 아니라 40분을 약 5분으로 압축하는 데 있다. 예외 발생 30초 안에 에이전트는 WMS 로그, 인터페이스 상태, 장비 텔레메트리를 가져와 "가능 원인, 권장 조치, 파급 범위"를 내놓는다. 인간이 할 일은 하나뿐이다. 판단. 중형 창고라면 1년간 회피한 출고 지연 페널티와 초과 근무비로 에이전트 프로젝트 비용을 충분히 뽑는다. 단, 소각과 릴리스에서는 멀리 떼어놓을 때만.

고객에게 그려 보여주는 역할 분담표가 이렇다. 에이전트와 인간의 경계가 한눈에 보인다.

고객용 파일럿 후보는 세 가지. 모두 지금 당장 안전하게 시작할 수 있다.

첫째, 야간조 예외 집계. 에이전트는 WMS, 주문 인터페이스, 장비의 알람 스트림을 24시간 감시한다. 중복 제거, 우선순위 지정, 근본 원인 진단. 인간이 받는 메시지는 하나. 결론과 권장책. 파일럿 중 ROI 최고, 리스크는 거의 제로.

둘째, 웨이브 전 헬스 체크. 각 웨이브 릴리스 15분 전에 에이전트는 네 가지를 대사한다. 주문량, 가용 재고, 인력 배치, 장비 상태. 부족하면 설명과 함께 웨이브를 차단한다. 이 체크 하나만 있었어도 새벽 1시 40분 전화의 절반은 막을 수 있었다.

셋째, 차이 트리아지. 재고 차이 알람이 울리면 에이전트는 먼저 해당 SKU의 30일 이동 이력, 실사 기록, 인접 빈 이동을 가져와 차이 분석을 초안 작성한다. 그다음 인간이 조정할지 결정한다. 기억하라. 보고서는 기계가 쓸 수 있지만 조정 전표를 찍는 손은 인간이어야 한다.

세 가지 레드라인: 건드려서는 안 될 것

레드라인 하나, 재고 자동 조정. 위의 이야기가 교훈이다. 장부가 혼자 움직이기 시작하는 순간 책임의 사슬이 끊긴다. 그리고 3개월 뒤에는 물건이 어디서 사라졌는지도 찾을 수 없다.

레드라인 둘, 고객에 대한 자동 확약. 에이전트가 고객에게 "내일 출고, 보장합니다"라고 약속하게 하거나 특급 주문을 자동으로 받게 하기. 내일 직원 3명이 병가라는 걸 에이전트는 모른다. 고객 확약에 대한 조언은 기계가, 결정은 인간이 한다.

레드라인 셋, 시스템 간 자동 실행. WMS의 슬롯 이동, TMS의 운송사 변경, ERP의 전표 입력. 한 시스템 안의 작은 움직임은 협상 여지가 있다. 세 시스템에 걸친 원클릭 실행은 고장 났을 때 롤백 팀조차 꾸릴 수 없다는 뜻이다.

이게 이 이야기의 양면이다. 창고 예외 처리를 하는 AI 에이전트. 방향성은 산다. 인간이 화면을 노려보는 시대는 끝내야 한다. 새벽 3시 전화는 아무도 원치 않는다. 하지만 "기계가 먼저 행동한다"는 서둘 수 없다. 3년 동안 야간조의 눈으로 일하게 하고 신뢰를 쌓은 뒤, 슈퍼바이저로 올리는 얘기를 하자.

에이전트를 도입하기 전 한 가지 조언. 스스로 물어보라. 새벽 3시에 예외를 자동 처리하다가 틀렸을 때, 다음 날 아침 10분 안에 무엇을 왜 했는지 설명할 수 있는가? 안 되면 행동하게 하지 마라. 설명할 수 있게 된 그날이 전화를 넘기는 날이다.

Lao Mi, 공급망 베테랑 (20년) 지음

영어판 번역본입니다. 내용이 다를 경우 영어판을 우선합니다.