Quase todo projeto de IA generativa numa empresa média hoje começa com a mesma promessa: “vamos ligar o modelo nos nossos documentos e ele vai responder com base no que é nosso”. A técnica por trás disso tem nome, RAG (retrieval-augmented generation, ou geração aumentada por recuperação), e funciona. Mas ela tem um limite que raramente aparece na demonstração: o RAG só encontra o que está escrito. A regra que existe só na cabeça de alguém continua invisível, e a IA responde mesmo assim.
Como o RAG funciona por dentro
O modelo de linguagem não sabe nada sobre a sua empresa. O RAG resolve isso em três etapas, antes de cada resposta:
- Fatiar. Manuais, políticas, contratos e e-mails são quebrados em trechos curtos, os chunks, de algumas centenas de palavras cada.
- Indexar por significado. Cada trecho vira um embedding, uma lista de números que representa o sentido do texto. Trechos sobre o mesmo assunto ficam próximos nesse espaço, mesmo usando palavras diferentes.
- Buscar e responder. Quando alguém pergunta, a pergunta também vira embedding. O sistema traz os trechos mais próximos, em geral de 5 a 20, e entrega ao modelo junto com a pergunta. O modelo redige a resposta a partir deles.
Repare no que o modelo recebe: não a base inteira, só os trechos que a busca achou. Se a resposta certa não estiver entre eles, o modelo não tem como saber. E ele não costuma dizer “não sei”. Ele escreve a melhor resposta possível com o que recebeu.
Achar o trecho certo já é difícil
A primeira falha é de busca. Um trecho fatiado perde o contexto do documento de onde saiu. A Anthropic usa um exemplo simples: o trecho “a receita da empresa cresceu 3% em relação ao trimestre anterior” não diz qual empresa nem qual trimestre. Sozinho, ele é quase impossível de recuperar pela pergunta certa.
Em testes publicados em setembro de 2024, a própria Anthropic mediu quantas vezes o trecho necessário ficava fora dos 20 primeiros resultados: 5,7% das buscas na configuração padrão. Acrescentando a cada trecho uma frase de contexto, combinando a busca por significado com a busca por palavra-chave e reordenando os resultados, a falha caiu para 1,9%, uma redução de 67% (Anthropic, Contextual Retrieval). É um teste da própria fornecedora, em bases de código, ficção e artigos científicos, não em documentos de empresa. Mas mostra o ponto: a busca melhora muito com engenharia.
Só que toda essa melhora trabalha sobre o que já existe na base. Nenhuma técnica de recuperação acha um documento que não foi escrito.
O que não está escrito não existe para a IA
Vamos imaginar uma distribuidora de autopeças com 60 funcionários. Ela coloca um assistente com RAG para ajudar o atendimento a responder sobre trocas e devoluções. A base tem a política de trocas, um PDF de 2023, e o manual do vendedor.
Um cliente pergunta se pode devolver uma peça elétrica já instalada. O PDF diz: peça instalada não tem troca. O assistente responde isso, com educação e citando o documento. A resposta está tecnicamente certa e na prática errada. Há dois anos, a supervisora de atendimento aceita a devolução quando o defeito aparece em até 7 dias, porque o fornecedor reembolsa a distribuidora nesses casos. Todo mundo no balcão sabe. Ninguém escreveu.
O sistema não falhou. A busca achou o trecho mais relevante que existia. O modelo resumiu bem. O problema é que a regra real da empresa nunca virou texto, e por isso nunca virou embedding. O assistente não alucinou, no sentido técnico. Ele foi fiel a um documento desatualizado. Do ponto de vista do cliente, dá no mesmo.
Como argumenta João Paulo Batistella, executivo de inovação, a IA depende de processo formalizado em dado, não de conhecimento que mora na cabeça das pessoas. Rotina que só existe como hábito não oferece base para nenhuma IA atuar. O RAG é a forma mais concreta dessa tese: ele transforma a pergunta “a IA conhece a nossa empresa?” em outra, mais incômoda, “a nossa empresa está escrita?”. É o mesmo problema que discutimos quando falamos da empresa que depende de uma pessoa só, agora com uma consequência nova: a dependência passa a responder clientes.
As quatro lacunas que o RAG não fecha
Na prática, quase toda resposta errada de um RAG corporativo cai em uma destas quatro lacunas. Só a primeira é de engenharia:
- Escrito, mas sem contexto. O trecho existe, mas fatiado perdeu o assunto, a data ou a unidade a que se refere. É a lacuna que técnicas como a do teste da Anthropic reduzem.
- Escrito em versões que se contradizem. A política de 2021 e a de 2024 estão as duas na pasta. A busca não sabe qual vale e pode trazer a antiga, se ela for mais parecida com a pergunta.
- Escrito, mas desatualizado. O documento foi a verdade um dia e ninguém o aposentou quando a prática mudou. É o caso da distribuidora.
- Nunca escrito. Exceções, acordos verbais, o “aqui a gente faz assim”. É a lacuna mais comum em empresa pequena e média, e nenhum modelo, maior ou menor, resolve.
As lacunas 2 a 4 não são problema de TI. São problema de quem é dono do processo. Por isso o projeto de RAG que funciona costuma ter um dono de conteúdo por área, não só um responsável técnico.
Quatro perguntas antes de ligar a IA nos documentos
1. Que perguntas o assistente vai responder? Liste 30 perguntas reais, tiradas do atendimento, do comercial ou do RH. Para cada uma, aponte o documento que tem a resposta. As perguntas sem documento mostram o que falta escrever antes de qualquer contratação.
2. Qual versão vale? Para cada assunto, deve haver um documento vigente, com data e dono. O resto sai da base, mesmo que continue arquivado em outro lugar.
3. Quem avisa quando a prática muda? Uma mudança de regra que não chega à base cria, no dia seguinte, um assistente que contradiz a própria equipe. Defina quem atualiza e em quanto tempo.
4. O que o assistente faz quando não acha? Configure o sistema para dizer que não encontrou a informação e passar para uma pessoa, em vez de responder com o trecho mais próximo. E registre essas perguntas: elas são a lista de próximos documentos a escrever.
Onde o RAG brilha, e onde não
Nada disso é argumento contra a técnica. O RAG funciona muito bem onde a empresa já escreve tudo por obrigação: contratos, normas técnicas, catálogos de produto, documentação de sistema, regulamentos internos. Nesses casos, ele economiza horas de busca e reduz respostas inventadas, porque o modelo passa a citar fonte em vez de depender só da memória do treino.
O limite está nos processos vivos, que mudam toda semana e se resolvem no balcão. Ali, o trabalho de escrever vem antes da tecnologia. A boa notícia é que esse trabalho vale mesmo sem IA: a empresa que documenta suas exceções treina gente nova mais rápido e depende menos de quem está há mais tempo.
O RAG não ensina a IA sobre a sua empresa. Ele lê o que a sua empresa já sabe dizer por escrito. O resto continua com as pessoas.
Para mais análises sobre como a IA funciona por dentro e o que isso muda na gestão, siga @ElevaTechno no X, @elevatechnologies no Instagram ou a Eleva Technologies no LinkedIn, ou conheça o grupo em elevatec.net/sobre.
