A questão do ajuste fino de LLM versus RAG para uma base de conhecimento de armazém costuma ser colocada ao contrário. As equipes perguntam qual técnica é melhor, como se uma delas tivesse de vencer. As evidências publicadas apontam para outro lugar: a recuperação tem superado sistematicamente o ajuste fino não supervisionado quando o trabalho é injetar conhecimento novo em um modelo, segundo um estudo comparativo de 2023, e o artigo original de 2020 que introduziu o RAG apresentou a ideia como dar ao modelo acesso ao conhecimento externo no momento da resposta, em vez de forçar tudo para dentro de seus parâmetros. O conhecimento de armazém, por sua vez, muda constantemente. Os procedimentos são revisados, as regras de localização mudam e um grande cliente acrescenta um requisito de etiquetagem no meio da temporada. Quando os fatos se movem tão rápido, a decisão de seleção precisa começar com duas perguntas: com que frequência a resposta muda e uma resposta errada pode ser rastreada até sua fonte?

O ajuste fino muda hábitos; o RAG muda o que o modelo pode ver

O ajuste fino e o RAG atuam em partes diferentes do sistema. O ajuste fino continua o treinamento, ajustando os pesos do modelo para que ele desenvolva novos hábitos: um formato fixo, um tom fixo, uma forma fixa de estruturar uma resposta. O RAG deixa o modelo intacto. Quando chega uma pergunta, o sistema busca na base de conhecimento, extrai as passagens mais relevantes e as entrega ao modelo junto com a pergunta. O modelo responde a partir do material que tem diante de si.

Essa distinção importa porque o conhecimento vive em lugares diferentes. Com o RAG, o conhecimento está nos documentos e em um índice. Mude um documento, atualize o índice e a próxima resposta muda junto, geralmente em questão de minutos. Com o ajuste fino, o conhecimento está nos pesos. Mudá-lo significa preparar novos dados de treinamento, executar outro ciclo de treinamento, reavaliar e reimplantar. O custo de uma correção é medido em semanas em vez de minutos, e a correção em si é difícil de inspecionar: ninguém consegue abrir um conjunto de pesos e apontar o parágrafo que fez o modelo dizer algo.

A maioria das perguntas em um armazém são perguntas de conhecimento, não de comportamento. Um operador pergunta se dois produtos podem compartilhar uma localização, qual regra de etiquetagem se aplica a um determinado cliente ou qual é o próximo passo após uma quebra da cadeia do frio. A resposta correta existe em exatamente um documento, e no mês que vem pode existir em uma versão revisada desse documento. Gravar essa resposta nos pesos significa esculpir um documento que está prestes a mudar em um meio difícil de mudar.

O cálculo do armazém: frequência de atualização contra o custo do erro

Consideremos um cenário hipotético. No outono de 2025, um armazém terceirizado no leste da China ajustou um modelo com mais de 4,000 procedimentos operacionais e requisitos específicos de clientes. As respostas ficaram consistentes e o novo pessoal de atendimento ao cliente aprendeu o trabalho rapidamente. Depois chegou a alta temporada e três grandes clientes mudaram seus requisitos de etiquetagem e embalagem ao mesmo tempo. Os documentos foram atualizados; as respostas do modelo, não. Durante duas semanas, o pessoal da linha de frente trabalhou com os requisitos antigos até que uma inspeção de um cliente detectou a divergência. A solução foi outra rodada de treinamento e outra rodada de avaliação, que levou três semanas. A tecnologia havia funcionado como projetado. A decisão de seleção havia colocado o conhecimento mutável no lugar errado.

Um segundo cenário hipotético tomou o caminho oposto. Um armazém de fulfillment de comércio eletrônico manteve cerca de 2,000 documentos em um sistema de recuperação. Cada pergunta extraía as três a cinco passagens mais relevantes, junto com o nome do documento e a seção, e o modelo compunha sua resposta a partir dessas passagens. Quando um cliente mudou um endereço de devolução durante a alta temporada, um operador editou uma linha do documento, o índice foi atualizado e a pergunta seguinte obteve a resposta certa. Quando algo deu errado, o supervisor de plantão pôde seguir a citação até a passagem de origem e dizer se o documento estava errado ou se a recuperação havia escolhido a passagem errada. A cadeia de responsabilidade estava intacta, e essa rastreabilidade é a propriedade mais valiosa que um sistema de conhecimento de armazém pode ter.

O ponto contraintuitivo é este: o ajuste fino não faz um modelo entender melhor o seu armazém. Ele faz o modelo soar mais como o seu armazém. Conhecimento e comportamento são problemas diferentes, e confundi-los é uma das formas mais seguras de gastar dinheiro sem resolver nada. Um modelo que responde com um estilo interno perfeito, mas cita um procedimento substituído, é pior do que um modelo que responde com simplicidade a partir do documento vigente.

Uma tabela comparativa: quando o RAG vence e quando o ajuste fino merece seu lugar

Pergunta de seleção Escolha RAG Escolha ajuste fino
Com que frequência a resposta muda? Semanal ou diária Estável por meses
Uma resposta errada precisa ser rastreável? Sim, até o documento exato Não, o formato importa mais
Pessoas diferentes veem conteúdo diferente? Sim, filtrar antes da recuperação Não, os pesos não carregam permissões
Você está mudando conhecimento ou estilo? Conhecimento Estilo, formato, rotinas fixas
Você tem exemplos rotulados? Funciona sem eles Não pode começar sem eles

A linha das permissões merece atenção, porque é a que as equipes mais frequentemente ignoram. Uma base de conhecimento de armazém rotineiramente contém preços de clientes, termos de contrato e dados internos de custos. Com o RAG, o controle de acesso acontece antes da recuperação: o sistema só entrega ao modelo as passagens que o solicitante tem permissão para ver. O ajuste fino não consegue fazer isso. Uma vez que o conhecimento está nos pesos, não há como dizer quem deve e quem não deve vê-lo. Qualquer base de conhecimento com níveis de permissão mistos precisa resolver essa questão antes de o ajuste fino entrar em cena.

O custo pertence à mesma comparação, mas os dois lados precisam ser medidos de forma diferente. Tomemos um exemplo hipotético: um armazém que lida com 600 perguntas da base de conhecimento por dia, com o RAG adicionando cerca de 2,000 tokens de contexto recuperado a cada pergunta, consome cerca de 36 milhões de tokens de contexto por mês. Esse custo cresce linearmente com o volume de perguntas e é visível todos os meses. O ajuste fino custa pouco por pergunta, mas cobra a cada atualização de conhecimento: preparar amostras, treinar, avaliar e executar testes de regressão, com tempo de pessoal reservado a cada ciclo. Quanto mais frequentemente o conhecimento muda, maior o custo oculto do ajuste fino; quanto maior o volume de perguntas, maior o custo corrente do RAG. Comparar uma conta de treinamento única com uma conta mensal de tokens não faz o menor sentido.

Também há um caso para não fazer nenhum dos dois, pelo menos no início. A orientação prática publicada observa que, quando uma base de conhecimento totaliza cerca de 200,000 tokens, aproximadamente 500 páginas de documentos, colocar todo o corpus no prompt costuma ser mais simples e mais preciso do que construir um sistema de recuperação. Muitos armazéns pequenos e médios têm bases de conhecimento exatamente nessa faixa. Reunir os documentos e escrevê-los com clareza vale mais nessa fase do que qualquer pipeline de recuperação.

RAG primeiro, depois o ajuste fino onde o comportamento é o problema

A sequência pragmática para a maioria dos armazéns é colocar o RAG para funcionar primeiro e depois procurar as lacunas de comportamento que o ajuste fino realmente sabe fechar. Uma vez que o RAG está no ar, os problemas reais costumam ser de saída e não de conhecimento: respostas que não seguem um formato consistente, campos de ordens de serviço que aparecem e desaparecem, regras de escalonamento deixadas ao critério do modelo. Esses são problemas de comportamento, e uma pequena rodada de ajuste fino com algumas centenas de exemplos revisados de perguntas e respostas pode corrigir o formato e a redação do escalonamento enquanto o RAG continua fornecendo os fatos no momento da pergunta.

Essa ordem também mantém barato o retorno atrás. Quando o RAG erra, a equipe edita um documento, ajusta a recuperação ou muda a classificação, e a correção pode ser verificada no mesmo dia. Quando um modelo ajustado erra, a equipe precisa descobrir qual lote de exemplos de treinamento o desviou do rumo, retreinar e reavaliar, um ciclo medido em semanas. Primeiro os passos reversíveis, depois os irreversíveis: essa ordem vale para todas as decisões de sistemas de armazém, e vale aqui.

Três perguntas resolvem a seleção para qualquer armazém: com que frequência os documentos mudam, uma resposta errada pode ser rastreada até sua fonte e diferentes papéis podem ver conteúdo diferente? As respostas a essas três perguntas determinam onde pertencem o ajuste fino e o RAG. As técnicas subjacentes continuarão mudando, mas é improvável que o peso dessas três perguntas mude tão cedo.

Por Dr. Chen, Pesquisador de Cadeia de Suprimentos Traduzido do inglês. Em caso de divergência, prevalece a versão em inglês.