성수기 수요 예측을 위해 3개월치 입출고 데이터를 업로드하기 전에 질문 하나만 드리겠습니다. 그 모델이 무엇을 기억하게 될지 아시나요?
2023년, Samsung 엔지니어들이 디버깅을 위해 칩 소스 코드를 ChatGPT에 붙여넣었고, 그 코드는 학습 데이터에 섞여 들어갔습니다. Samsung은 칩을 만듭니다. 여러분은 창고를 운영하고, 여러분의 데이터는 그다지 "중요해" 보이지 않습니다. 실제로 나열해 보기 전까지는요. 고객 SKU와 판매 속도. 운송사 계약 운임. 각 피커의 생산성 수치. 공급업체 정산 단가. 이것들이 공개 모델의 학습 세트에 들어가면, 유출된 것은 코드 한 줄이 아닙니다. 비즈니스 전체의 경제 구조를 유출한 겁니다.
창고 데이터를 잘못된 손에 들어갔을 때의 위험도 순으로 등급을 매겨 보겠습니다.
1등급: 고객 상업 데이터. SKU 단위 매출, 입출고 리듬, 재고 포지션. 그것은 브랜드의 영업 비밀이며, 3PL로서 여러분은 거의 확실히 이를 다루는 비밀유지 조항에 서명했습니다. 이를 서드파티 모델에 넣는 것은 비밀유지 의무를 여러분이 통제할 수 없는 시스템에 외주하는 것입니다.
2등급: 가격 데이터. 운송사 할인, 고객에게 제시하는 운임, 공급업체 정산 단가. 가격은 협상 테이블에 남은 마지막 카드입니다. 모델이 이를 갖게 되면, 경쟁사는 적절한 프롬프트로 뽑아낼 수 있습니다.
3등급: 사람 데이터. 피커의 시간당 처리량, 오류율, 출근 현황. 미국 각 주는 직원 데이터 프라이버시를 계속 강화하고 있습니다. 캘리포니아의 프라이버시법은 이제 직원 데이터도 다룹니다. 실제 인사 데이터가 모델에 들어가는 것을 법무 담당자가 반기지는 않을 겁니다.
그렇다고 창고 데이터에 AI를 쓸 수 없다는 뜻은 아닙니다. 먼저 비식별화를 하고, 제대로 하라는 뜻입니다. 제가 클라이언트들과 함께 확인하는 체크리스트입니다.
직접 식별자를 제거하세요. 고객명, 운송사명, 직원명, 배지 번호. 모두 의미 없는 무작위 ID로 교체합니다. "고객 A"는 안 됩니다. 누구나 역추적할 수 있습니다. 무작위 ID로 하고, 매핑 테이블은 오프라인에 보관하세요.
준식별자를 일반화하세요. 슬롯 단위까지 정밀한 피킹 경로는 존 단위로. 분 단위까지 정밀한 타임스탬프는 시간 단위로. SKU 단위 데이터는 분석이 허용하는 범위에서 카테고리 단위로 집계합니다. 제가 모든 팀에 주는 규칙: 모델이 받는 것은 분석이 견딜 수 있는 가장 거친 입도입니다.
가격 데이터를 변환하세요. 계약 운임과 제시 요금은 데이터셋에서 제외하거나, 정규화를 거칩니다. 예를 들어 지수로 변환하는 식입니다. 모델에 필요한 것은 가격 간의 상대적 관계이지, 여러분의 실제 최저가가 아닙니다.
무엇에든 서명하기 전에 데이터 약관을 읽으세요. 여러분의 AI 도구 이용약관에 사용자 입력이 학습에 사용되지 않는다고 명시되어 있나요? 엔터프라이즈 요금제와 무료 요금제는 바로 이 지점에서 다른 경우가 많습니다. 무료 요금제가 싼 이유는 여러분의 데이터가 대가이기 때문입니다.
그리고 다섯 번째, 그 모든 과정을 거쳐도 여전히 뜨겁게 느껴지는 데이터는: 로컬에서 돌리세요. 로컬에 배포한 오픈소스 모델은 최첨단 모델에 미치지 못하지만, 데이터는 여러분의 네트워크를 떠나지 않습니다. 이것은 능력과 안전 사이의 진정한 트레이드오프이며, 이 문제에 있어서 저는 언제나 안전 편에 섭니다.
계약서에 세 문장을 넣으세요
AI 벤더와 계약할 때 데이터 약관은 영업 자료 속에만 존재해서는 안 됩니다. 종이에 적혀 있어야 합니다. 협상 불가한 세 문장이 있습니다. 하나: 사용자 입력 데이터는 모델 학습에 사용하지 않는다. 명시적으로, 빠져나갈 틈 없이. 둘: 데이터의 저장 위치, 보관 기간, 만료 시 삭제 여부. 셋: 유출 통지 의무와 책임. 얼마나 빨리 알려주는지, 무엇을 배상하는지. 세 가지 중 하나라도 빠져 있다면 법무에서 반려해야 합니다.
갱신 때마다 약관을 다시 읽으세요. AI 기업들은 그 누구보다 빠르게 약관을 바꿉니다. 작년의 약속이 올해의 개정에서 살아남지 못할 수 있습니다. 자동 갱신하지 마세요. 먼저 데이터 조항을 검토하세요.
EU 고객에게 서비스를 제공한다면 한 겹이 더 있습니다. GDPR 하에서는 직원과 고객 데이터가 개인정보이며, 해외 서버로의 이전에는 적절한 이전 메커니즘이 필요합니다. EU 인력이 포함된 데이터를 외국 벤더의 모델에 넣기 전에 이전 체인이 컴플라이언스에 부합하는지 확인하세요. 규제 당국이 묻기를 기다리지 마세요.
프로세스 수정: 누가 데이터를 내보낼 수 있는가
기술로 막을 수 없는 것은 프로세스로 막아야 합니다. 간단한 규칙 하나를 권장합니다. 외부 AI 도구로의 업무 데이터 대량 내보내기는 데이터 소유자의 승인을 필수로 합니다. 승인에서는 세 가지를 확인합니다. 비식별화를 했는지, 계약 약관을 검토했는지, 더 거친 대안은 없는지. 데이터 소유자가 없는 소규모 기업은 창업자가 승인하면 됩니다. 핵심은 "내보내기"가 한 사람의 가벼운 클릭이어서는 안 된다는 것입니다.
승인 양식은 화려할 필요 없습니다. 한 페이지: 어떤 데이터인지, 어떤 도구인지, 어떤 비식별화인지, 만료일. 그 한 페이지가 감사 때 여러분을 구할 겁니다. 양식은 데이터 보관 정책이 요구하는 기간 이상 보관하세요. 감사관은 작년 자료를 물어보길 좋아합니다.
그리고 섀도우 AI의 현실이 있습니다. 정책을 아무리 써도, 영업 담당은 마감 전에 고객 견적을 "다듬기" 위해 무료 챗봇에 붙여넣습니다. 모든 회사에서 일어나는 일입니다. 막을 수 없으니 유도하세요. 데이터 약관을 협상한 승인된 엔터프라이즈 AI 요금제를 회사 차원에서 구매하면, 무료 요금제를 쓸 유인이 사라집니다. IT 예산에 잡으세요. 한 번의 유출보다 쌉니다.
교육도 중요하지만, 슬라이드 자료는 건너뛰세요. 운영팀에 실제 사례 두 개를 보여주고, 붙여넣어도 되는 것과 안 되는 것을 한 장으로 정리해 주면, 프라이버시법 1시간 강의보다 효과적입니다.
내일을 위한 숙제입니다. 20분이면 됩니다. 시스템에서 실제 데이터셋을 내보내고 공격자가 되어 보세요. 그 데이터에서 특정 고객을 식별할 수 있나요? 특정 노선의 실제 원가를 역산할 수 있나요? 할 수 있다면 비식별화는 미완성입니다.
모델은 여러분의 비밀을 지켜주지 않습니다. 파이프라인 전체에서 유일한 비밀 보장 장치는 데이터가 들어가기 전에 여러분이 하는 작업입니다.
영어판 번역본입니다. 내용이 다를 경우 영어판을 우선합니다.
