¿Qué es un gran modelo de lenguaje?
El tipo de IA que hay detrás de los asistentes de chat, explicado sin jerga: qué es, cómo produce texto y dónde se queda corto.
La versión corta
- → Un LLM es un programa que predice el siguiente trozo de texto, paso a paso.
- → Aprendió esas predicciones leyendo una cantidad enorme de textos, no de una base de datos de hechos.
- → Es fluido por diseño, y por eso mismo puede equivocarse con total seguridad.
LLM son las siglas en inglés de «gran modelo de lenguaje». Es la tecnología que hay detrás de asistentes de chat como ChatGPT, Claude y los modelos que usa Berges AI. En el fondo hace una sola cosa, engañosamente sencilla: a partir de un texto, predice qué texto debería venir después.
Ese es todo el truco. Todo lo que parece hacer un asistente de chat, responder preguntas, escribir un email, explicar código, sale de predecir el siguiente trozo de texto una y otra vez hasta que la respuesta está terminada.
Predice el siguiente token
Un modelo no lee ni escribe palabras enteras. Trabaja con tokens, que son fragmentos de palabras. Mira todo lo que lleva hasta ese momento, asigna una probabilidad a cada posible siguiente token, elige uno, lo añade y repite. Los párrafos fluidos son el resultado de hacer esto miles de veces muy deprisa.
Lo de «grande» va de escala
Estos modelos son grandes en dos sentidos: la cantidad de texto con la que se entrenaron, a menudo buena parte del internet público, y el número de valores internos, llamados parámetros, que guardan lo que aprendieron. Los modelos actuales tienen decenas o cientos de miles de millones de parámetros, y los más grandes ya superan el billón. La escala es lo que convirtió la predicción de la siguiente palabra en algo útil de verdad y no en un simple truco.
No tiene memoria en directo ni base de datos
Un modelo base no consulta nada. Su «conocimiento» son patrones grabados en sus parámetros durante el entrenamiento, congelados en el momento en que terminó. Por eso tiene una fecha de corte de conocimiento y por eso, sin herramientas adicionales, no puede contarte las noticias de hoy. Técnicas como la recuperación de información y el uso de herramientas son la forma de darle información reciente o privada.
Por qué suena seguro aunque se equivoque
El modelo busca un texto que suene plausible, no la verdad. Cuando no sabe algo, no se calla: genera igualmente la respuesta que parece más probable. Ese fallo se llama alucinación, y es lo más importante que debes tener en cuenta cuando lo usas.
Una analogía
Piensa en un autocompletado que lo ha leído todo. El autocompletado del móvil adivina tu siguiente palabra con un poco de contexto. Un LLM adivina el siguiente fragmento a partir de todo lo escrito hasta ese momento, después de haber absorbido patrones de miles de millones de páginas. La misma idea, con muchísimo más contexto y entrenamiento.
Dónde encaja Berges AI
Berges AI usa varios de estos modelos y añade encima una capa fina, los pipelines y las normas de la casa, que da forma a cómo responden: las normas piden nada de relleno y que lo diga cuando no está seguro, y los pipelines preparan el tipo de tarea. El modelo hace la predicción; la capa hace que sea útil.
Conceptos relacionados
¿Qué son los tokens?
Los modelos no ven palabras. Ven tokens, los fragmentos en los que se miden los precios, los límites de contexto y la velocidad. Leer →
Lo que nos suelen preguntar
¿Un LLM es lo mismo que la IA?
No. La IA es el campo entero. Un LLM es un tipo de IA, centrado en el lenguaje. Los generadores de imágenes, los sistemas de recomendación y la percepción de los coches autónomos también son IA, pero no son LLM.
¿Un LLM entiende lo que dice?
No tiene creencias ni consciencia. Modela muy bien los patrones estadísticos del lenguaje, lo que puede parecer comprensión, pero detrás no hay ninguna comprensión interior. Útil, pero no es una mente.
¿Por qué a veces se inventa cosas?
Porque está hecho para producir texto probable, no texto comprobado. Cuando no tiene una respuesta real, genera igualmente una plausible. Comprueba siempre cualquier dato o cualquier cosa en la que te juegues mucho.