¿Qué es la generación aumentada por recuperación?

La versión corta

• → RAG busca documentos relevantes en el momento de la pregunta y se los pasa al modelo como contexto.
• → Permite a un modelo responder con datos recientes o privados con los que nunca se entrenó.
• → Basar las respuestas en el texto recuperado reduce las alucinaciones y permite citar las fuentes.

Un modelo base responde con lo que memorizó durante el entrenamiento, que está congelado y no puede incluir tus archivos privados ni las noticias de hoy. La generación aumentada por recuperación, o RAG por sus siglas en inglés, lo soluciona consultando antes de responder.

La idea es sencilla: cuando llega una pregunta, primero se busca en una colección de documentos las partes relevantes, luego se le pasan esas partes al modelo junto con la pregunta y se le pide que responda a partir de ellas.

Recuperar y después generar

RAG tiene dos pasos. La recuperación busca en tu colección de documentos los fragmentos más relevantes para la pregunta. La generación le pasa luego esos fragmentos al modelo como contexto, para que la respuesta se construya a partir de un texto real y concreto y no de un recuerdo difuso. El modelo sigue escribiendo la respuesta; simplemente tiene delante el material adecuado.

Cómo encuentra la búsqueda el texto adecuado

Los documentos suelen convertirse en embeddings, representaciones numéricas del significado, y se guardan en una base de datos vectorial. La pregunta se convierte en embedding de la misma forma, y el sistema extrae los fragmentos cuyo significado se parece más. Así encuentra contenido relevante aunque esté redactado de otra manera que la pregunta.

Por qué reduce las alucinaciones

Cuando al modelo se le da el texto original y se le pide que responda a partir de él, tiene mucha menos necesidad de inventar. Además puedes mostrar de qué fragmentos salió la respuesta, así que las afirmaciones se pueden comprobar. No elimina los errores, pero basar las respuestas en pruebas recuperadas las hace mucho más fiables.

RAG frente a fine-tuning

Los dos añaden especialización, pero resuelven problemas distintos. El fine-tuning cambia cómo se comporta el modelo. RAG cambia lo que el modelo sabe en el momento de responder, y ese conocimiento se actualiza en cuanto actualizas los documentos. Para «responde a partir de esta información», RAG suele ser la herramienta adecuada.

Una analogía

Un modelo base es un estudiante que hace un examen sin libros, de memoria. RAG lo convierte en un examen con libros: antes de responder, al estudiante le dan justo las páginas adecuadas, así que la respuesta se basa en la fuente y no en algo medio recordado.

Dónde encaja Berges AI

RAG es la forma habitual de crear un asistente sobre tus propios documentos. Use o no recuperación una función concreta de Berges AI, el principio es el mismo sobre el que está construido: una respuesta basada en material real es mejor que una suposición muy segura.

Conceptos relacionados

¿Qué son los agentes de IA?

El paso de un modelo que responde preguntas a uno que actúa por ti, y por qué ese paso es más difícil de lo que parece. Leer →