RAG é a sigla de retrieval augmented generation, uma arquitetura que combina busca de informações com geração de respostas. Em vez de depender apenas do treinamento do modelo, o sistema consulta uma base externa e fornece os trechos encontrados como contexto.
Imagine um assistente para consultar o manual de um produto. A busca seleciona partes relevantes do manual; o modelo usa esse material para explicar uma dúvida. Esse exemplo é ilustrativo e não descreve um serviço do Marmota News.
A abordagem permite trabalhar com documentos específicos e informações atualizadas, desde que a base seja mantida. Também pode mostrar referências que ajudam o leitor a conferir a resposta.
Há limites: a busca pode selecionar o trecho errado, a fonte pode estar desatualizada e o modelo ainda pode errar. Por isso, RAG não é um selo automático de verdade. Quem desenvolve o sistema precisa cuidar da qualidade das fontes, das permissões de acesso e da avaliação das respostas.
