RAG (retrieval-augmented generation, generación aumentada por recuperación) es la técnica que hace que un chatbot, antes de contestar, busque en tus documentos los fragmentos relevantes y redacte la respuesta a partir de ellos. Es lo que hay detrás de herramientas como Gemini Notebook (antes NotebookLM) o del modo ampliado de los Proyectos de Claude. Funciona mejor que preguntar «a pelo» porque el modelo trabaja con tu texto delante, puede citarlo y no depende solo de lo que memorizó al entrenarse. Pero no elimina los errores: reduce el margen, no lo cierra.
De un artículo de 2020. El paper Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, firmado por Patrick Lewis y otros once autores y aceptado en la conferencia NeurIPS 2020, partía de un problema que sigue vigente: los grandes modelos de lenguaje guardan conocimiento en sus parámetros, pero les cuesta acceder a él con precisión, justificar de dónde sale una respuesta y actualizarse.
Su propuesta fue combinar dos memorias. Una paramétrica, el propio modelo, y otra no paramétrica: un índice vectorial de la Wikipedia consultado por un buscador neuronal. Con esa combinación lograron el mejor resultado del momento en tres tareas de preguntas y respuestas de dominio abierto, y comprobaron que el texto generado era «más específico, diverso y factual» que el de un modelo equivalente sin recuperación.
