RAG explicado: como as IAs consultam seus próprios documentos

Você já usou uma ferramenta que "conversa com seus PDFs"? Por trás dela quase sempre existe a mesma técnica: RAG (Retrieval-Augmented Generation, ou geração aumentada por recuperação). É um nome esquisito para uma ideia elegante.

/O problema que o RAG resolve

LLMs têm duas limitações graves: não sabem o que aconteceu depois do treinamento e não conhecem seus documentos privados. Retreinar um modelo a cada novidade é caríssimo. O RAG ataca isso sem tocar no modelo.

/A analogia da prova com consulta

Imagine duas provas. Na primeira, de memória, o aluno responde só com o que aprendeu há anos — e chuta o que esqueceu. Na segunda, com consulta, ele recebe os trechos relevantes do material antes de cada questão. O RAG transforma o LLM no aluno da segunda prova: antes de responder, o sistema busca os trechos certos nos seus documentos e os entrega ao modelo.

/Como funciona, passo a passo

1. Indexação: seus documentos são quebrados em trechos e convertidos em embeddings — coordenadas numéricas que capturam o significado de cada trecho. Ficam guardados em um banco vetorial.
2. Busca: quando você pergunta algo, a pergunta também vira embedding, e o sistema recupera os trechos mais próximos em significado.
3. Geração: o modelo recebe sua pergunta mais os trechos recuperados e responde com base neles — muitas vezes citando a fonte.

/Por que todo mundo usa

RAG dá respostas atualizadas (basta atualizar os documentos), privacidade (seus dados não entram no treinamento) e rastreabilidade (dá para mostrar de onde saiu a informação). É por isso que suporta desde assistentes de suporte ao cliente até ferramentas jurídicas.

/Os limites

Se a busca falha, a resposta falha: documentos mal segmentados, perguntas ambíguas e trechos fora de contexto ainda geram erros. Por isso produtos bons de RAG capricham na indexação — e por isso "jogar o PDF e rezar" nem sempre funciona.

Da próxima vez que uma IA responder algo certinho sobre o seu contrato, você saberá: não foi magia, foi recuperação bem feita.