RAG (Retrieval-Augmented Generation, по-русски «генерация, дополненная поиском») — это метод, при котором система ИИ сначала ищет нужную информацию в вашей базе и только потом добавляет её в инструкцию для модели, которая пишет ответ. Вместо того чтобы полагаться на то, что модель «помнит», ей до ответа дают нужные страницы.
Коротко
- RAG — это метод: сначала из документов бизнеса достают фрагменты, относящиеся к вопросу, а затем модель отвечает на их основе.
- Он не переобучает модель. Найденные фрагменты добавляются в инструкцию, заново на каждый вопрос.
- Он подходит, когда много внутренней информации: прайс-лист, регламенты, частые вопросы, документы о продукте.
- Он сокращает ошибки, но не устраняет их. Качество ответа зависит от качества документов и поиска.
Наглядно: экзамен с открытыми книгами
Один студент сдаёт устный экзамен по тому, что помнит. Второй сдаёт с книгами на столе: получает вопрос, листает к нужному месту, читает и отвечает.
Языковая модель без RAG — это первый студент. С RAG — второй. Умнее она не становится, но нужная страница у неё перед глазами. И, как на экзамене, всё зависит от того, открыл ли он правильную страницу.
Как работает RAG
По объяснению Anthropic, базу готовят заранее: делят на небольшие фрагменты текста, превращают каждый фрагмент в числовое представление, которое называется embedding, и сохраняют в хранилище, где можно искать. Когда приходит вопрос, находят фрагменты, наиболее близкие к нему, и добавляют их в инструкцию.
От ваших документов к ответу
- Подготовка базыдокументы режутся на фрагменты и сохраняются для поиска
- Вопросспрашивает клиент или сотрудник
- Поисквыбираются фрагменты, близкие к вопросу
- Ответмодель отвечает по полученным фрагментам
OpenAI тоже предлагает это как встроенный сервис: инструмент поиска по файлам работает с хранилищами, которые называются vector stores, и ищет и по смыслу, и по ключевым словам. Можно ограничить, сколько результатов вернуть, и фильтровать по свойствам файлов.
Чем RAG важен для бизнеса?
- Служба поддержки. Ответы на вопросы о доставке, возвратах и часах работы по актуальному документу, а не наугад.
- Внутренние регламенты. Новый сотрудник спрашивает «как оформляется возврат?» и получает ответ из вашего регламента.
- Каталог и прайс-лист. На вопросы о товарах отвечают по обновлённому файлу, а не по тому, чему модель когда-то научилась.
- Предложения и документы. Подготовка черновика на основе прежних предложений и постоянных условий, на вашу проверку.
- Знания, лежащие в почте и документах. Вместо ручного поиска вы спрашиваете и получаете нужный фрагмент.
Без RAG
Студент на устном экзамене
- Отвечает по тому, что выучил при обучении
- Не знает документов бизнеса
- Может дополнить детали догадкой
С RAG
Экзамен с открытыми книгами
- Получает подходящие фрагменты вместе с вопросом
- Отвечает на основе ваших документов
- Можно показать, из какого фрагмента взят ответ
Распространённые мифы о RAG
Миф«RAG обучает модель на моей информации»
На делеМодель не меняется. Найденные фрагменты присоединяются к инструкции на каждый вопрос и остаются, только пока находятся в инструкции.
Миф«С RAG галлюцинаций не бывает»
На делеОн их сокращает, но не устраняет. Если найден не тот фрагмент или сам документ неверен, ответ будет неверным. Anthropic отмечает, что такие приёмы уменьшают галлюцинации, но не убирают их полностью.
Миф«RAG нужен для всего»
На делеЕсли вся нужная информация короткая и помещается в инструкцию, её можно просто приложить. RAG нужен, когда база слишком велика, чтобы подать её целиком.
Миф«Загружаешь файлы, и всё работает»
На делеAnthropic предупреждает, что разбиение документов на фрагменты может терять контекст. Фраза вроде «выручка выросла» ничего не говорит, пока неизвестно, о какой компании и каком периоде речь. Упорядоченные документы помогают.
Близкие понятия
- LLM: языковая модель, которая отвечает в конце
- Галлюцинация: что происходит, когда модель не знает
- Токен: почему нельзя подать всё сразу
- MCP: подключение модели к источникам информации и инструментам
- ИИ-агент: модель, подключённая к бизнесу
Platin Digital — OpenAI Select Partner. Когда мы запускаем агента для бизнеса, наш первый вопрос: с какими документами он должен быть знаком и кто отвечает за их обновление.
Частые вопросы
Что такое RAG?
RAG, аббревиатура от Retrieval-Augmented Generation, — это метод, при котором система ИИ сначала ищет в базе подходящие фрагменты информации, например в документах бизнеса, и добавляет их в инструкцию для модели до того, как она ответит. Так ответ опирается на источник, а не только на то, чему модель научилась при обучении.
Чем RAG отличается от обучения модели?
При обучении меняется сама модель. В RAG модель остаётся прежней и на каждый вопрос получает подходящие фрагменты. Поэтому можно обновить документ, и ответ обновится без переобучения.
Подходит ли RAG малому бизнесу?
Когда есть реальная база знаний, например повторяющиеся вопросы, регламенты или каталог, да. Когда вся информация умещается на одной странице, её можно приложить к инструкции и без RAG. Начинают с вопросов, которые повторяются чаще всего.
Гарантирует ли RAG верные ответы?
Нет. Он повышает шансы, но ответ зависит от того, найден ли нужный фрагмент и актуален ли документ. Рекомендуется просить модель цитировать источник, разрешить ей сказать, что она не знает, и проверять важные ответы. Подробнее в объяснении про галлюцинации.
