Un LLM (Large Language Model, "modelo de lenguaje grande") es un modelo de inteligencia artificial entrenado con una cantidad enorme de texto, capaz de generar texto nuevo en respuesta a una instrucción. Es el motor detrás de ChatGPT y de la mayoría de las herramientas de IA que encuentras hoy, y también la base de cualquier agente de IA.
En resumen
- Un LLM es un modelo de lenguaje grande: un programa que aprendió patrones en mucho texto y escribe una continuación coherente para la instrucción que recibe.
- No es un buscador ni una base de datos. Genera una respuesta plausible, y por eso también puede equivocarse con total seguridad.
- Modelo de lenguaje, ChatGPT y agente de IA no son lo mismo: el modelo es el motor, ChatGPT es un producto construido sobre él y un agente es un modelo conectado a herramientas.
- Es excelente para redactar, resumir y clasificar. Lo que no ha leído, no lo sabe, a menos que se lo traigas.
La imagen: un ayudante que leyó una biblioteca entera
Imagina a un ayudante nuevo que leyó una biblioteca entera. Escribe muy bien, entiende casi cualquier tema y sabe redactar un correo en cualquier estilo. Pero nunca vio los archivos de tu negocio y no sabe qué se acordó con el cliente ayer. Lo que no le diste, lo adivinará.
Eso es un LLM. El idioma lo domina. De tu negocio solo conoce lo que le cuentes.
Cómo funciona un LLM, en cuatro pasos
De la instrucción a la respuesta
- InstrucciónEscribes lo que necesitas
- TokensEl texto se corta en trozos pequeños
- CálculoEl modelo elige la continuación más probable
- RespuestaTú revisas y apruebas
Algunos conceptos que conviene conocer:
- Token. Según OpenAI, los tokens son secuencias comunes de caracteres, y en inglés un token equivale a unos cuatro caracteres o tres cuartos de palabra. Los modelos trabajan en tokens, no en palabras. Más sobre esto en la explicación sobre tokens.
- Ventana de contexto. Es el límite de cuánto texto procesa el modelo de una vez. Según OpenAI, la instrucción y la respuesta juntas no pueden superar la longitud máxima del modelo.
- Entrenamiento. En esta etapa el modelo aprende del texto a predecir la continuación. De ahí sale su capacidad de escribir, y de ahí también provienen sus errores. Detalles en la explicación sobre alucinaciones.
- Aleatoriedad. OpenAI señala que el contenido que genera un modelo no es determinista, es decir, la misma instrucción puede producir redacciones distintas.
Modelo, ChatGPT y agente: tres capas
Modelo de lenguaje (LLM)
El motor
- Recibe texto y devuelve texto
- Solo conoce lo que está en la instrucción y en el entrenamiento
- No tiene manos: no entra a un sitio ni envía nada
Agente de IA
El motor, conectado al negocio
- El mismo tipo de modelo, con conexión a herramientas
- Recibe permisos y contexto sobre el negocio
- Ejecuta tareas, y tú apruebas
ChatGPT es el producto construido sobre modelos así: una conversación cómoda, sin necesidad de saber qué ocurre por debajo. Y el paso a un modelo conectado a herramientas es lo que explica qué es un agente de IA.
¿Por qué importa un LLM para un negocio?
Borradores de respuesta
- Redactar una respuesta al cliente con tu tono
- Tú lees y apruebas antes de enviar
Resúmenes
- Un documento largo o una cadena de correos en un párrafo
- Mejor contrastar con la fuente cuando importa
Clasificar consultas
- Identificar qué es urgente, qué es venta y qué es servicio
- Una regla clara de qué pasa a una persona
Contenido y traducción
- Descripciones de productos, publicaciones y versiones en otros idiomas
- Publicar siempre con tu aprobación
Nuestra regla: se usa un LLM donde un buen borrador ahorra tiempo y hay una persona que revisa. Donde un error sale caro, como un precio, una promesa legal o un dato financiero, no se confía en una conjetura.
Mitos frecuentes sobre los LLM
Mito"Un LLM es un buscador inteligente"
En realidadUn buscador encuentra fuentes que ya existen. Un modelo de lenguaje genera texto nuevo según los patrones que aprendió. Algunos productos le añaden búsqueda, pero es un complemento y no su esencia.
Mito"Conoce mi negocio"
En realidadSolo conoce lo que está en tu instrucción y lo que el sistema le añade. La información del negocio tiene que llegarle, por ejemplo mediante RAG.
Mito"Si lo escribe con seguridad, es verdad"
En realidadUna redacción segura no es una prueba. OpenAI define la alucinación como una afirmación plausible pero falsa, dicha con seguridad.
Mito"Todos los modelos son iguales"
En realidadLos modelos difieren en tamaño, velocidad, costo y calidad. Se elige según la tarea y se prueba con ejemplos del negocio.
Conceptos cercanos
- Agente de IA: un modelo conectado a herramientas que ejecuta
- RAG: llevar al modelo información del negocio
- Alucinación: por qué un modelo se inventa cosas
- Token: la unidad de texto del modelo
- MCP: una forma de conectar un modelo a herramientas
Platin Digital es OpenAI Select Partner, y configuramos para negocios agentes basados en modelos así, con tu aprobación para cada acción sensible.
Preguntas frecuentes
¿Qué es un LLM?
Un LLM, o modelo de lenguaje grande, es un modelo de inteligencia artificial entrenado con una cantidad enorme de texto que aprendió patrones del lenguaje. Recibe una instrucción en texto y genera texto en respuesta: una contestación, un resumen, una redacción o código. ChatGPT es un producto construido sobre modelos así.
¿Cuál es la diferencia entre un LLM y ChatGPT?
El LLM es el modelo en sí, el motor. ChatGPT es un producto completo construido sobre modelos, con interfaz de conversación y funciones adicionales. El mismo tipo de modelo también se puede usar mediante interfaces de programación, dentro de otras herramientas y dentro de agentes.
¿Un LLM conoce información actual?
El modelo aprende hasta un momento determinado, así que lo ocurrido después no necesariamente lo conoce. Para que responda con información actual o interna, se le entrega esa información en la instrucción o se lo conecta a una fuente, como se explica en RAG.
¿Se puede confiar en un LLM en un negocio?
Se puede confiar en él como en un ayudante que prepara borradores, no como en quien decide. Puede equivocarse, como explica el artículo sobre alucinaciones. Por eso se revisan los resultados importantes, y acciones como publicar y enviar quedan bajo tu aprobación.
