LLM (Large Language Model, по-русски «большая языковая модель») — это модель искусственного интеллекта, обученная на огромном объёме текста и умеющая создавать новый текст в ответ на инструкцию. Это двигатель, стоящий за ChatGPT и большинством ИИ-инструментов, с которыми вы сегодня сталкиваетесь, а также основа любого ИИ-агента.
Коротко
- LLM — это большая языковая модель: программа, которая выучила закономерности на большом количестве текста и пишет логичное продолжение к полученной инструкции.
- Это не поисковая система и не база данных. Она создаёт правдоподобный ответ, поэтому может и уверенно ошибаться.
- Языковая модель, ChatGPT и ИИ-агент — не одно и то же: модель — это двигатель, ChatGPT — продукт, построенный на ней, а агент — это модель, подключённая к инструментам.
- Она отлично справляется с формулировками, резюме и сортировкой. Чего она не читала, того не знает, пока вы ей это не принесёте.
Наглядно: помощник, прочитавший целую библиотеку
Представьте нового помощника, который прочитал целую библиотеку. Он прекрасно пишет, разбирается почти в любой теме и умеет сформулировать письмо в любом стиле. Но он никогда не видел дел вашего бизнеса и не знает, о чём вчера договорились с клиентом. Чего вы ему не дали, то он угадает.
Это и есть LLM. Язык он знает. О вашем бизнесе он знает лишь то, что вы ему расскажете.
Как работает LLM, в четыре шага
От инструкции к ответу
- Инструкциявы пишете, что нужно
- Токенытекст режется на мелкие части
- Вычислениемодель выбирает вероятное продолжение
- Ответвы проверяете и утверждаете
Несколько понятий, которые стоит знать:
- Токен. По данным OpenAI, токены — это частые последовательности символов, а в английском токен равен примерно четырём символам или трём четвертям слова. Модели работают токенами, а не словами. Подробнее в объяснении про токены.
- Контекстное окно. Это предел того, сколько текста модель обрабатывает за один раз. По данным OpenAI, инструкция и ответ вместе не могут превышать максимальную длину модели.
- Обучение. На этом этапе модель учится по тексту предсказывать продолжение. Отсюда она умеет писать, и отсюда же берутся ошибки. Подробности в объяснении про галлюцинации.
- Случайность. OpenAI отмечает, что содержимое, создаваемое моделью, недетерминировано, то есть одна и та же инструкция может дать разные формулировки.
Модель, ChatGPT и агент: три слоя
Языковая модель (LLM)
Двигатель
- Получает текст и возвращает текст
- Знает только то, что в инструкции и в обучении
- У неё нет рук: она не заходит на сайт и ничего не отправляет
ИИ-агент
Двигатель, подключённый к бизнесу
- Тот же тип модели, с подключением к инструментам
- Получает права и контекст о бизнесе
- Выполняет задачи, а вы утверждаете
ChatGPT — это продукт, построенный на таких моделях: удобный диалог, без необходимости знать, что происходит под капотом. А переход к модели, подключённой к инструментам, как раз объясняет, что такое ИИ-агент.
Чем LLM важна для бизнеса?
Черновики ответов
- Формулировка ответа клиенту в вашем тоне
- Вы читаете и утверждаете перед отправкой
Резюме
- Длинный документ или цепочка писем в одном абзаце
- Когда это важно, лучше сверить с источником
Сортировка обращений
- Определение, что срочно, что продажи и что сервис
- Чёткое правило, что передаётся человеку
Контент и перевод
- Описания товаров, посты и версии на других языках
- Публикация всегда с вашего утверждения
Наше правило: используйте LLM там, где хороший черновик экономит время и есть человек, который проверяет. Там, где ошибка стоит дорого, например цена, юридическое обещание или финансовые данные, на догадку не полагаются.
Распространённые мифы о LLM
Миф«LLM — это умная поисковая система»
На делеПоисковая система находит существующие источники. Языковая модель создаёт новый текст по закономерностям, которые выучила. В некоторые продукты к ней добавляют поиск, но это надстройка, а не суть.
Миф«Она знает мой бизнес»
На делеОна знает только то, что есть в вашей инструкции и что добавляет к ней система. Информация о бизнесе должна до неё дойти, например через RAG.
Миф«Если она пишет уверенно, значит, это правда»
На делеУверенная формулировка — не доказательство. OpenAI определяет галлюцинацию как правдоподобное, но неверное утверждение, сказанное уверенно.
Миф«Все модели одинаковы»
На делеМодели различаются размером, скоростью, стоимостью и качеством. Выбирают под задачу и проверяют на примерах из бизнеса.
Близкие понятия
- ИИ-агент: модель, подключённая к инструментам и выполняющая задачи
- RAG: передать модели информацию бизнеса
- Галлюцинация: почему модель выдумывает
- Токен: единица текста модели
- MCP: способ подключить модель к инструментам
Platin Digital — OpenAI Select Partner, и мы строим для бизнеса агентов на основе таких моделей, с вашим утверждением каждого чувствительного действия.
Частые вопросы
Что такое LLM?
LLM, или большая языковая модель, — это модель искусственного интеллекта, обученная на огромном объёме текста и выучившая закономерности языка. Она получает текстовую инструкцию и в ответ создаёт текст: ответ, резюме, формулировку или код. ChatGPT — это продукт, построенный на таких моделях.
Чем LLM отличается от ChatGPT?
LLM — это сама модель, двигатель. ChatGPT — готовый продукт, построенный на моделях, с интерфейсом диалога и дополнительными функциями. Модель того же типа можно использовать и через программные интерфейсы, внутри других инструментов и внутри агентов.
Знает ли LLM актуальные вещи?
Модель учится до определённого момента, поэтому то, что произошло позже, ей не обязательно известно. Чтобы она отвечала на актуальную или внутреннюю информацию, эту информацию передают в инструкции или подключают источник, как объясняется в статье про RAG.
Можно ли доверять LLM в бизнесе?
Можно доверять как помощнику, который готовит черновики, но не как тому, кто принимает решения. Она может ошибаться, как объясняется в статье о галлюцинациях. Поэтому важные результаты проверяют, а такие действия, как публикация и отправка, остаются за вашим утверждением.
