Um LLM (Large Language Model, em português "modelo de linguagem grande") é um modelo de inteligência artificial treinado com uma quantidade enorme de texto, capaz de gerar texto novo em resposta a uma instrução. É o motor por trás do ChatGPT e da maioria das ferramentas de IA que você encontra hoje, e também a base de todo agente de IA.
Em resumo
- Um LLM é um modelo de linguagem grande: um software que aprendeu padrões em muito texto e escreve uma continuação coerente para a instrução que recebeu.
- Ele não é um buscador nem um banco de dados. Ele gera uma resposta plausível, e por isso também pode errar com toda a confiança.
- Modelo de linguagem, ChatGPT e agente de IA não são a mesma coisa: o modelo é o motor, o ChatGPT é um produto construído sobre ele, e o agente é um modelo conectado a ferramentas.
- Ele é excelente para redigir, resumir e classificar. O que ele não leu, ele não sabe, a menos que você leve a informação até ele.
A imagem: um assistente que leu uma biblioteca inteira
Imagine um assistente novo que leu uma biblioteca inteira. Ele escreve muito bem, entende quase qualquer assunto e sabe redigir um e-mail em qualquer estilo. Mas nunca viu as pastas do seu negócio e não sabe o que ficou combinado com o cliente ontem. O que você não deu a ele, ele vai chutar.
Isso é um LLM. A língua ele conhece. O seu negócio ele só conhece pelo que você contar.
Como um LLM funciona, em quatro passos
Da instrução à resposta
- InstruçãoVocê escreve o que precisa
- TokensO texto é cortado em pedacinhos
- CálculoO modelo escolhe a continuação provável
- RespostaVocê confere e aprova
Alguns conceitos que vale conhecer:
- Token. Segundo a OpenAI, tokens são sequências comuns de caracteres, e em inglês um token equivale a cerca de quatro caracteres ou três quartos de palavra. Os modelos trabalham com tokens, e não com palavras. Mais sobre isso na explicação sobre tokens.
- Janela de contexto. É o limite de quanto texto o modelo processa de uma vez. Segundo a OpenAI, a instrução e a resposta juntas não podem passar do comprimento máximo do modelo.
- Treinamento. Nessa etapa o modelo aprende, a partir do texto, a prever a continuação. Daí vem a capacidade de escrever, e daí também vêm os erros. Detalhes na explicação sobre alucinações.
- Aleatoriedade. A OpenAI observa que o conteúdo gerado por um modelo não é determinístico, ou seja, a mesma instrução pode produzir formulações diferentes.
Modelo, ChatGPT e agente: três camadas
Modelo de linguagem (LLM)
O motor
- Recebe texto e devolve texto
- Conhece só o que está na instrução e no treinamento
- Não tem mãos: não entra no site nem envia nada
Agente de IA
O motor, conectado ao negócio
- O mesmo tipo de modelo, com conexão a ferramentas
- Recebe permissões e contexto sobre o negócio
- Executa tarefas, e você aprova
O ChatGPT é o produto construído sobre esses modelos: uma conversa cômoda, sem que você precise saber o que acontece por baixo. E a passagem para um modelo conectado a ferramentas é o que explica o que é um agente de IA.
Por que o LLM importa para o negócio?
Rascunhos de resposta
- Redige uma resposta ao cliente no seu tom
- Você lê e aprova antes de enviar
Resumos
- Um documento longo ou uma cadeia de e-mails em um parágrafo
- Melhor conferir com a fonte quando for importante
Triagem de contatos
- Identifica o que é urgente, o que é venda e o que é atendimento
- Regra clara do que passa para uma pessoa
Conteúdo e tradução
- Descrições de produtos, posts e versões em outros idiomas
- Publicação sempre com a sua aprovação
Nossa regra: use o LLM onde um bom rascunho economiza tempo e onde há uma pessoa conferindo. Onde um erro sai caro, como preço, promessa jurídica ou dado financeiro, não se confia em palpite.
Mitos comuns sobre LLMs
Mito"Um LLM é um buscador inteligente"
Na práticaUm buscador encontra fontes que já existem. Um modelo de linguagem gera texto novo a partir de padrões que aprendeu. Alguns produtos acrescentam busca a ele, mas isso é um complemento, não a essência.
Mito"Ele conhece o meu negócio"
Na práticaEle só conhece o que está na sua instrução e no que o sistema acrescenta a ela. A informação do negócio precisa chegar até ele, por exemplo via RAG.
Mito"Se ele escreve com confiança, está certo"
Na práticaUma formulação segura não é prova. A OpenAI define alucinação como uma afirmação plausível, porém errada, feita com confiança.
Mito"Todos os modelos são iguais"
Na práticaOs modelos diferem em tamanho, velocidade, custo e qualidade. Escolha conforme a tarefa e teste com exemplos do seu negócio.
Conceitos próximos
- Agente de IA: um modelo conectado a ferramentas que executa
- RAG: levar ao modelo informação do negócio
- Alucinação: por que um modelo inventa
- Token: a unidade de texto do modelo
- MCP: uma forma de conectar o modelo a ferramentas
A Platin Digital é OpenAI Select Partner, e montamos para negócios agentes baseados nesses modelos, com a sua aprovação em toda ação sensível.
Perguntas frequentes
O que é um LLM?
Um LLM, ou modelo de linguagem grande, é um modelo de inteligência artificial treinado com uma quantidade enorme de texto, que aprendeu padrões da língua. Ele recebe uma instrução em texto e gera texto em resposta: uma resposta, um resumo, uma redação ou código. O ChatGPT é um produto construído sobre modelos como esse.
Qual é a diferença entre LLM e ChatGPT?
O LLM é o próprio modelo, o motor. O ChatGPT é um produto completo construído sobre modelos, com interface de conversa e outros recursos. O mesmo tipo de modelo também pode ser usado por interfaces de programação, dentro de outras ferramentas e dentro de agentes.
Um LLM conhece fatos atuais?
O modelo aprende até um certo ponto no tempo, então o que aconteceu depois não é necessariamente conhecido por ele. Para que responda sobre informação atual ou interna, você leva a informação na instrução ou o conecta a uma fonte, como explicado em RAG.
Posso confiar num LLM no negócio?
Pode confiar nele como num assistente que prepara rascunhos, não como em quem decide. Ele pode errar, como explica o texto sobre alucinações. Por isso os resultados importantes são conferidos, e ações como publicar e enviar continuam com a sua aprovação.
