RAG (Retrieval-Augmented Generation, em português "geração aumentada por recuperação") é um método em que um sistema de IA primeiro busca informação relevante na sua base e só então a acrescenta à instrução do modelo que escreve a resposta. Em vez de confiar no que o modelo "lembra", você entrega a ele as páginas certas antes de ele responder.
Em resumo
- RAG é um método: primeiro se buscam nos documentos do negócio os trechos relevantes para a pergunta, e depois o modelo responde com base neles.
- Ele não treina o modelo de novo. Os trechos recuperados são acrescentados à instrução, a cada pergunta.
- Combina quando há muita informação interna: tabela de preços, procedimentos, perguntas frequentes, documentos de produto.
- Ele reduz erros, mas não os elimina. A qualidade da resposta depende da qualidade dos documentos e da recuperação.
A imagem: uma prova com consulta
Um aluno faz a prova oral, com base no que lembra. O segundo aluno faz a prova com os livros sobre a mesa: recebe a pergunta, folheia até o ponto certo, lê e responde.
Um modelo de linguagem sem RAG é o primeiro aluno. Com RAG, é o segundo. Ele não fica mais inteligente, mas tem a página certa diante dos olhos. E, como na prova, tudo depende de ele ter aberto a página certa.
Como o RAG funciona
Segundo a explicação da Anthropic, a base é preparada com antecedência: ela é dividida em pequenos trechos de texto, cada trecho é convertido numa representação numérica chamada embedding, e tudo é guardado numa base que permite busca. No momento da pergunta, encontram-se os trechos mais próximos dela e eles são acrescentados à instrução.
Dos seus documentos à resposta
- Preparar a baseDocumentos viram trechos e são guardados para busca
- PerguntaUm cliente ou funcionário pergunta
- RecuperaçãoSão escolhidos os trechos próximos da pergunta
- RespostaO modelo responde com base nos trechos recebidos
A OpenAI também oferece isso como serviço integrado: a ferramenta de busca em arquivos trabalha com bases chamadas vector stores e busca tanto por significado quanto por palavras-chave. É possível limitar quantos resultados voltam e filtrar por atributos dos arquivos.
Por que o RAG importa para o negócio?
- Atendimento ao cliente. Respostas sobre entregas, devoluções e horário de funcionamento, de acordo com o documento atualizado e não com um palpite.
- Procedimentos internos. Um funcionário novo pergunta "como tratamos um reembolso?" e recebe a resposta tirada do seu procedimento.
- Catálogo e tabela de preços. Perguntas sobre produtos são respondidas pelo arquivo atualizado, e não pelo que o modelo aprendeu um dia.
- Propostas e documentos. Preparação de um rascunho com base em propostas anteriores e condições fixas, para você revisar.
- Conhecimento que está em e-mails e documentos. Em vez de procurar à mão, você pergunta e recebe o trecho relevante.
Sem RAG
Um aluno na prova oral
- Responde com o que aprendeu no treinamento
- Não conhece os documentos do negócio
- Pode completar detalhes com palpites
Com RAG
Uma prova com consulta
- Recebe trechos relevantes junto com a pergunta
- Responde com base nos seus documentos
- É possível mostrar de qual trecho veio a resposta
Mitos comuns sobre RAG
Mito"O RAG treina o modelo com as minhas informações"
Na práticaO modelo não muda. Os trechos recuperados se juntam à instrução a cada pergunta, e só ficam enquanto estiverem na instrução.
Mito"Com RAG não há alucinações"
Na práticaEle as reduz, mas não as elimina. Se o trecho errado for recuperado, ou se o próprio documento estiver errado, a resposta será errada. A Anthropic observa que técnicas desse tipo diminuem as alucinações, mas não as removem por completo.
Mito"Precisa de RAG para tudo"
Na práticaSe toda a informação relevante é curta e cabe na instrução, basta anexá-la. O RAG é necessário quando a base é grande demais para entrar de uma vez.
Mito"É só subir os arquivos e funciona"
Na práticaA Anthropic alerta que dividir documentos em trechos pode perder o contexto. Uma frase como "a receita subiu" não diz nada sem saber de que empresa e de que período se fala. Documentos organizados ajudam.
Conceitos próximos
- LLM: o modelo de linguagem que responde no final
- Alucinação: o que acontece quando o modelo não sabe
- Token: por que não dá para colocar tudo de uma vez
- MCP: conexão do modelo com fontes de informação e ferramentas
- Agente de IA: um modelo conectado ao negócio
A Platin Digital é OpenAI Select Partner. Quando montamos um agente para um negócio, a nossa primeira pergunta é quais documentos ele precisa conhecer e quem é responsável por atualizá-los.
Perguntas frequentes
O que é RAG?
RAG, sigla de Retrieval-Augmented Generation, é um método em que um sistema de IA primeiro busca trechos de informação relevantes numa base, como os documentos do negócio, e os acrescenta à instrução do modelo antes de ele responder. Assim a resposta se apoia numa fonte e não só no que o modelo aprendeu no treinamento.
Qual é a diferença entre RAG e treinar um modelo?
No treinamento, o próprio modelo muda. No RAG, o modelo continua como está e recebe, a cada pergunta, os trechos adequados. Por isso é possível atualizar um documento e a resposta se atualiza, sem treinar de novo.
O RAG serve para um negócio pequeno?
Quando há uma base de conhecimento de verdade, como perguntas recorrentes, procedimentos ou um catálogo, sim. Quando toda a informação cabe numa página, dá para anexá-la à instrução sem RAG. Comece pelas perguntas que mais se repetem.
O RAG garante respostas corretas?
Não. Ele melhora a chance, mas a resposta depende de o trecho certo ser recuperado e de o documento estar atualizado. Recomenda-se pedir ao modelo que cite a fonte, permitir que ele diga que não sabe e conferir as respostas importantes. Mais na explicação sobre alucinações.
