Un token es la unidad de texto que los modelos de lenguaje leen y escriben: un trozo pequeño de texto, a veces una palabra entera y a veces solo una parte de ella.
En resumen
- Un token es un trozo de texto que el modelo procesa como una sola unidad. Todo lo que se envía al modelo y todo lo que escribe se cuenta en tokens.
- Según OpenAI, en inglés un token equivale a unos 4 caracteres o 0,75 palabras.
- El modelo tiene un límite de longitud: las instrucciones, la entrada y la respuesta juntas no pueden superarlo.
- En la API de OpenAI se paga por tokens, por separado la entrada y la salida.
Qué es un token, con una sola imagen
Piensa en Lego. Una casa no se construye con arena, sino con piezas, y de distintos tamaños. Un modelo de lenguaje no lee letras ni frases enteras, sino "piezas de texto" de este tipo. Una palabra corta y común puede ser una sola pieza, y una palabra larga o rara puede descomponerse en varias.
Los tokens son la unidad con la que el modelo cuenta su trabajo: cuánto leyó, cuánto escribió y cuánto espacio le queda.
¿Cómo funciona?
OpenAI indica una regla práctica para texto en inglés: un token son unos 4 caracteres o 0,75 palabras. Ojo: es una regla para el inglés. En español y en otros idiomas la división puede ser distinta, así que no te apoyes en ella para un cálculo exacto. Si necesitas un número, se comprueba con la herramienta de conteo de tokens del proveedor del modelo.
Fuente: documentación de OpenAI, Concepts y la página de precios de la API. La regla práctica se refiere al inglés.
La documentación define también el límite de contexto (context window): las instrucciones y la entrada que se envían al modelo, junto con la respuesta que genera, no pueden superar la longitud máxima del modelo. Si no, algo se queda fuera.
¿Por qué importa para un negocio?
- Costo. La página de precios de OpenAI muestra precios por millón de tokens, con entrada y salida tarificadas por separado. En muchos modelos hay además un descuento por entrada guardada en caché. Lo que pagas depende de cuánto texto se envía y cuánto se genera. El desglose de los componentes del costo de un agente está en el artículo sobre el costo de un agente de IA para negocios.
- Documentos largos. Resumir un contrato o un catálogo extenso consume muchos tokens y puede empujar el resto fuera de la ventana.
- Conversaciones largas. Cuanto más se alarga la conversación, más historial hay que enviar al modelo, así que conviene empezar una conversación nueva al cambiar de tema.
- Instrucciones cortas y claras. Una instrucción concisa ahorra tokens.
- Agentes. Un agente que trabaja en varios pasos lee y devuelve texto en cada uno, así que vale la pena pedir a quien lo configura que explique cómo se mide el uso. Sobre la estructura del agente: qué es un agente de IA.
Lo que hacemos en la práctica
Un dueño de negocio no necesita contar tokens a mano. Lo que sí conviene exigir a quien te configure un agente es una explicación clara de cómo se mide el uso y de cómo se evita el desperdicio, por ejemplo enviando un documento entero cuando basta con un fragmento. La mejor manera de entender los costos es consultar la tarifa actualizada del proveedor, porque los precios cambian.
Mitos frecuentes
Mito"Un token es exactamente una palabra"
En realidadOpenAI habla de una aproximación: unas 0,75 palabras por token, en inglés. Por eso una sola palabra puede ser más de un token.
Mito"Solo se paga por la respuesta"
En realidadEn la API se paga por la entrada y por la salida, con tarifas distintas.
Mito"Puedes pegarle al modelo todo el texto que quieras"
En realidadHay un límite de longitud. La entrada y la respuesta juntas no pueden superarlo.
Mito"El número de tokens es el mismo en todos los idiomas"
En realidadLa regla práctica de OpenAI se enuncia para el inglés. En otros idiomas el número puede ser distinto, así que se comprueba en la práctica.
Términos relacionados
- Qué es un LLM: el modelo de lenguaje que procesa tokens.
- Qué es RAG: una forma de llevar al modelo solo los fragmentos relevantes, en lugar de un documento entero.
- Qué es un agente de IA: un sistema que actúa por pasos y consume tokens en cada uno.
- Qué es una alucinación en IA: cuando el modelo genera una respuesta que suena correcta y no lo es.
- Cuánto cuesta un agente de IA para un negocio: cómo entran los tokens en el costo.
Preguntas frecuentes
¿Qué es un token en IA?
Un token es la unidad de texto que los modelos de lenguaje leen y escriben. Puede ser una palabra entera, parte de una palabra o un signo de puntuación. El conteo de tokens determina cuánto espacio ocupa el texto en el límite de longitud del modelo y, al usar la API, también cuánto se paga.
¿Cuántos tokens tiene una palabra?
OpenAI indica que en inglés un token equivale a unos 4 caracteres o 0,75 palabras. Es una regla práctica solo para el inglés. En español el número puede ser distinto, así que para un cálculo exacto se usa una herramienta de conteo.
¿Qué es la ventana de contexto (context window)?
Es el límite de longitud del modelo. Según la documentación de OpenAI, las instrucciones y la entrada junto con la respuesta generada no pueden superar la longitud máxima de contexto del modelo.
¿Cómo influyen los tokens en el costo?
En la API de OpenAI los precios se muestran por millón de tokens, y la entrada y la salida se tarifican por separado. Cuanto más texto se envía y se genera, más sube el costo. El monto exacto depende del modelo y de las tarifas actualizadas en el sitio del proveedor.
