Обучить нейросеть на своих данных: дообучение, RAG или хорошая инструкция — что выбрать бизнесу
Короткий ответ: «обучить нейросеть на своих данных» можно тремя способами — дать ей подробную инструкцию с примерами, подключить поиск по вашим документам (RAG) или дообучить саму модель. Для ответов по ценам, условиям и регламентам почти всегда хватает первых двух. Дообучение меняет манеру и формат ответов, но плохо подходит для хранения фактов, которые у вас меняются. Ниже — что даёт каждый способ, сколько данных и денег нужно и как выбрать за пять вопросов.
Заказчик обычно приходит с готовой формулировкой: «хотим нейросеть, обученную на наших данных». За этими словами могут стоять очень разные задачи — от бота, который знает прайс, до системы, которая пишет заключения в фирменном формате. От того, какая задача на самом деле, зависят бюджет, срок и то, как вы будете жить с решением через полгода.
Что на самом деле значит «обучить нейросеть на своих данных»?
Чаще всего это значит не перестраивать модель, а сделать так, чтобы она отвечала с опорой на ваши материалы и по вашим правилам. Технически это три разных уровня вмешательства: текст запроса, подключённая база знаний и изменение самой модели. Стоимость и трудоёмкость растут именно в таком порядке.
Полезно разделить, чего вы хотите от ИИ:
- Знания. Цены, сроки доставки, состав услуг, пункты регламентов, условия договоров. Это факты, они меняются и должны быть точными.
- Поведение. Тон, длина ответа, структура документа, что можно и что нельзя обещать клиенту, когда звать человека.
- Навык. Узкая работа с текстом: разметить обращение по вашей классификации, извлечь реквизиты из письма, привести заключение к шаблону.
Знания надёжнее держать снаружи модели, в базе, которую можно править. Поведение почти всегда задаётся инструкцией. Навык — та область, где иногда оправдано дообучение, и то не в первую очередь.
Инструкции и примеры в запросе: когда хватает?
Хватает, когда вся нужная справка умещается на нескольких страницах, а главное — задать роль, рамки и формат. Инструкцию пишут один раз, правят текстом, без программиста, и видят эффект сразу. Это первый шаг в любом проекте, даже если потом добавят базу знаний.
Что обычно входит в хорошую инструкцию для делового ассистента:
- роль и аудитория: «отвечаешь покупателям интернет-магазина сантехники»;
- границы темы: о чём говорить нельзя и что делать с такими вопросами;
- правила обещаний: не называть сроки, которых нет в справке, не давать скидок;
- формат: длина, обращение на «вы», когда давать список;
- условие передачи человеку: жалоба, возврат, спорная сумма, прямая просьба;
- 3–10 образцов: вопрос клиента и ответ, который вы сами считаете правильным.
Образцы работают сильнее любых описаний. Фраза «отвечай кратко и по делу» понимается по-разному, а три примера с готовыми ответами показывают, что именно вы имеете в виду.
Предел наступает быстро. Если справка разрастается до каталога на тысячу позиций или папки регламентов, всё в запрос не поместить, а каждый лишний абзац стоит денег: модель оплачивается по объёму обработанного текста. Кроме того, длинная инструкция начинает противоречить сама себе — правило на третьей странице спорит с правилом на десятой.
Поиск по базе знаний: когда нужен?
Нужен, когда материалов больше, чем помещается в инструкцию, они регулярно меняются или важно показывать, откуда взят ответ. Система сначала находит в документах подходящие фрагменты, а модель пишет ответ только по ним. Знания обновляются заменой файла, без вмешательства в модель.
Механику мы подробно разбирали в статье про RAG простыми словами, там же — чек-лист подготовки документов. Здесь важнее признаки, что вам нужен именно этот способ:
- ответы зависят от прайсов, остатков, регламентов, договоров, которые живут своей жизнью;
- сотрудник или клиент должен видеть ссылку на документ и проверить ответ сам;
- разным людям положены разные документы: клиенту — публичные, сотруднику — внутренние;
- из базы иногда надо срочно что-то убрать: устаревшее условие, ошибочную цифру.
Пример из наших проектов — ассистент юриста «Довод». Он отвечает только из собственной базы права: 11 658 статей кодексов и федеральных законов и 495 постановлений Пленумов, разобранных на 9 392 пункта. Законы обновляются ночью, практика — по воскресеньям, статьи хранятся по редакциям. Сноску на норму, которую ассистент не открывал в базе, сервер вычёркивает до показа ответа. Ни одну из этих возможностей дообучение не даёт: у обученной модели нет ни ссылок, ни редакций, ни ночного обновления.
Дообучение: что оно меняет и что нет?
Дообучение — это дополнительная тренировка готовой модели на ваших примерах. Оно хорошо закрепляет повторяющийся формат, стиль и узкую разметку, особенно когда таких примеров тысячи. Но оно не делает модель надёжным хранилищем ваших фактов и не даёт ей ссылаться на источник.
Где дообучение действительно уместно:
- Жёсткий формат на потоке. Тысячи однотипных заключений, карточек или ответов, где важна каждая мелочь структуры и инструкция уже не справляется.
- Собственная классификация. Обращения нужно раскладывать по десяткам ваших категорий с тонкими различиями, и накоплен архив с правильной разметкой.
- Экономия на каждом запросе. Небольшую дообученную модель иногда дешевле гонять на большом потоке, чем крупную с длинной инструкцией. Это расчёт для объёмов, а не для старта.
Что дообучение не решает: не добавляет актуальных цен, не убирает «галлюцинации», не знает, что в понедельник поменялся регламент. Обучающий набор — это сотни и тысячи пар «вход — образцовый выход», которые кто-то из ваших специалистов должен проверить вручную. Это и есть основная стоимость, а не машинное время.
Отдельный вопрос — где модель будет работать. Дообученную версию нужно где-то держать: в облаке поставщика, если он такое позволяет, или на своём сервере. Это влияет и на расходы, и на то, куда уходят данные. Если в обучающих примерах есть персональные данные клиентов, это решается до старта — разбор в статье о передаче данных клиентов в ИИ-сервис и 152-ФЗ.
Почему дообучение не добавляет свежие факты?
Потому что факты, которых модель не видела при исходном обучении, усваиваются через дообучение медленно и ненадёжно, а попытка их «вбить» повышает склонность модели выдумывать. Это показано в исследованиях, а не только в практике разработчиков.
В работе Gekhman и соавторов, представленной на конференции EMNLP 2024, сравнили примеры с новыми и уже знакомыми модели фактами. Новые модель учит заметно медленнее, а по мере того как она их всё-таки заучивает, растёт доля выдуманных ответов. Вывод авторов: основные знания модель получает при исходном обучении, а дообучение в основном учит пользоваться тем, что уже есть.
Другое исследование — препринт Ovadia и соавторов, 2023 — сравнило дообучение и поиск по базе знаний на вопросах, требующих знаний. Дообучали там на самих текстах, без пар «вопрос — ответ». Дообучение дало некоторый прирост, но поиск по базе стабильно показывал более высокий результат — и на фактах, знакомых модели, и на совсем новых. Авторы отмечают, что новые факты модель усваивает успешнее, если показать ей много пересказов одного и того же факта, — то есть подготовка данных снова оказывается дороже самого обучения.
Для бизнеса из этого следует простое правило: всё, что может измениться или должно быть проверяемым, держите в базе знаний. Модель дообучают на том, как работать, а не на том, что знать.
Сравнение по стоимости, срокам и обновлению
Инструкция дешевле всего и запускается быстрее всего. Поиск по базе знаний требует разработки, но обновляется заменой файла. Дообучение дорого в подготовке данных и повторяется при каждом существенном изменении. Главная статья расходов во всех трёх случаях — время ваших специалистов на материалы.
Что важно учесть в стоимости владения, а не только запуска:
- Оплата модели. Языковая модель тарифицируется по объёму обработанного текста. Длинная инструкция и много найденных фрагментов делают каждый запрос дороже. У нас эта оплата идёт по факту, на ваш аккаунт, без наценки студии.
- Обновление знаний. Кто и как часто меняет прайс, регламенты, шаблоны. Для базы знаний это администратор, который загружает файл; для дообученной модели — новый цикл разметки и проверки.
- Проверка качества. Набор контрольных вопросов, по которому сравнивают ответы до и после изменений. Без него любая доработка — на глаз. Как его собрать, разобрано в статье о проверке ассистента до запуска.
- Смена модели. Модели обновляются, старые версии снимают с поддержки. Инструкция и база знаний переносятся на новую модель почти без потерь, дообучение придётся повторить.
По прайсу Roboweb ассистент на ваших данных — с базой знаний, виджетом на сайте, одним мессенджером и передачей заявок в CRM — стоит от 72 000 ₽, срок — от 3 дней. Подробности состава — на странице ИИ-ассистента для бизнеса. Дообучение в тариф не входит: его считаем после брифа и только когда видно, что инструкция и база знаний уже не справляются. Сопровождение после запуска — по абонентской плате, поддержка в прайсе — от 7 900 ₽/мес.
| Инструкция и примеры | Поиск по базе знаний (RAG) | Дообучение | |
|---|---|---|---|
| Что меняется | Текст запроса: правила, образцы, справка | К вопросу подмешиваются найденные фрагменты ваших документов | Внутренние параметры самой модели |
| Сколько данных нужно | Одна-две страницы правил и 3–10 образцов | Документы как есть, но вычищенные: без дублей и старых редакций | Сотни и тысячи пар «вход — правильный выход», размеченных вручную |
| Как обновить знания | Поправить текст инструкции | Заменить файл в базе — ответы меняются после переиндексации | Собрать новый набор и переобучить |
| Ссылка на источник | Нет, если источник не в тексте запроса | Да: документ и фрагмент | Нет |
| Срок до первой версии | Дни | От нескольких дней: основное время — подготовка базы | Недели: разметка, обучение, проверка |
| Из чего складываются расходы | Настройка и оплата модели за запросы | Разработка, хранение базы, оплата модели за запросы | Разметка, обучение, хостинг своей версии модели, повтор при каждом обновлении |
| Где обычно ломается | Справка не помещается в запрос, инструкция противоречит сама себе | Плохие документы, неудачная нарезка, вопрос вне базы | Модель уверенно путает факты, которые «выучила» не до конца |
Как выбрать за 5 вопросов?
Ответьте по порядку на пять вопросов ниже. Первый «да» обычно и показывает нужный способ; дообучение остаётся последним шагом, а не стартовым.
- Помещается ли вся нужная справка на 3–5 страниц и меняется ли она реже раза в месяц? Да — начните с инструкции и образцов. Нет — переходите ко второму вопросу.
- Ответы опираются на документы, которые обновляются, или нужно показывать источник? Да — поиск по базе знаний. Это самый частый случай для клиентских и внутренних ассистентов.
- Разным пользователям положены разные документы? Да — база знаний с метками доступа. Ни инструкция, ни дообучение такого разграничения не дают.
- Проблема в форме ответа, а не в фактах, и инструкция с образцами уже не помогает? Да — тогда есть смысл обсуждать дообучение. Сначала проверьте, что дело не в самой инструкции.
- Есть ли у вас сотни проверенных образцов и человек, который будет их пополнять? Нет — дообучение пока рано: без такого набора и ответственного оно не окупит подготовку и быстро устареет.
Типичные примеры. Магазин хочет, чтобы бот знал каталог и условия доставки, — база знаний. Юрфирма хочет ответы со ссылками на нормы — база знаний, как в «Доводе». Отдел качества хочет, чтобы ИИ раскладывал тысячи обращений по сорока своим категориям, и у него есть размеченный архив за два года, — здесь дообучение стоит обсуждать, но после проверки, справится ли инструкция с образцами.
Когда это не нужно и какие ошибки встречаются?
Не нужно ничего «обучать», если вопросов мало и они повторяются: хватит кнопочного бота или страницы FAQ. Не нужно, если решение считается по формуле — цену, скидку, приоритет заявки надёжнее посчитать кодом. Самые дорогие ошибки — начинать с дообучения и загружать документы без чистки.
Ошибки, которые мы видим чаще всего:
- Дообучение «чтобы знала прайс». Через месяц цены поменяются, а модель продолжит называть старые. Прайс должен лежать в базе знаний.
- Всё в базу без разбора. Три версии одного регламента, черновики, переписка — и ассистент цитирует то, что давно отменено.
- Нет контрольных вопросов. Изменения в инструкции или базе проверяют на двух-трёх вопросах и выкатывают. Потом выясняется, что починили одно и сломали другое.
- Нет владельца знаний. Разработчик настроил, а обновлять базу некому. Через полгода ассистент отвечает по прошлогодним документам.
- ИИ решает за человека. Скидки, возвраты, обязательства перед клиентом должны подтверждаться сотрудником. Где проходит эта граница, описано в статье про ИИ-агента, который выполняет действия.
- Ожидание «без ошибок». Ни один из трёх способов не делает ответы безошибочными. Процесс строится так, чтобы ошибку заметили: ссылка на источник, передача оператору, выборочная проверка диалогов.
Если вы не уверены, какой способ нужен, начните с малого: соберите 20–30 реальных вопросов клиентов или сотрудников и ответы, которые считаете правильными. По этому набору быстро видно, хватит ли инструкции, нужна ли база знаний и есть ли вообще задача для дообучения. Тот же набор потом станет тестом приёмки.
Короткие ответы на частые вопросы
Можно ли загрузить в нейросеть все документы компании, чтобы она их запомнила?
Запомнить надёжно — нет: даже после дообучения модель воспроизводит факты неточно. Рабочий путь — хранить документы в базе знаний и давать модели читать нужные фрагменты перед каждым ответом.
Сколько примеров нужно для дообучения нейросети?
Зависит от задачи, но речь обычно о сотнях и тысячах вручную проверенных пар «запрос — образцовый ответ». Если таких примеров нет и собрать их некому, начинать стоит с инструкции и базы знаний.
Что дешевле в поддержке: RAG или дообученная модель?
Как правило, поиск по базе знаний: обновление знаний сводится к замене файлов. Дообученную модель приходится переобучать и заново проверять при каждом существенном изменении, а также где-то держать её отдельную версию.
Можно ли сочетать дообучение и поиск по базе знаний?
Можно: дообучение отвечает за стиль и формат, база знаний — за актуальные факты. Но это оправдано, только когда оба способа по отдельности уже упёрлись в потолок и это видно на тестовых вопросах.
Сколько стоит ассистент, который отвечает по нашим документам?
В прайсе Roboweb ИИ-ассистент на ваших данных стоит от 72 000 ₽, срок — от 3 дней. Работа модели оплачивается отдельно по факту использования, на ваш аккаунт.
Услуги и кейсы по теме: ИИ-ассистент на ваших данных от 72 000 ₽ · кейс «Довод» · цены и сроки
Опишите, что ИИ должен знать и делать, и пришлите пару типовых вопросов — скажем, какой из трёх способов подходит, и назовём цену и срок до старта.
Рассчитать проект →Оценку срока и цены по брифу делаем бесплатно, обычно отвечаем в течение часа в рабочее время. Типовой договор — посмотреть до оплаты.
