RAG или дообучение модели: что нужно именно вашей задаче
Оба подхода делают языковую модель полезной на материале, которому её не учили, и их принято противопоставлять. Напрасно. Поиск достаёт ваши факты в момент вопроса; дообучение заранее впечатывает в модель манеру. Выбор сводится, по сути, к одному вопросу: как часто меняется то, что она должна знать?
Что каждый из подходов делает на самом деле
При поиске по своим данным (RAG) ваш материал остаётся снаружи модели. В момент вопроса система находит подходящие фрагменты и передаёт их модели вместе с вопросом, поэтому ответ собран из текста, на который можно показать пальцем. Дообучение меняет саму модель: ей показывают от сотен до тысяч примеров диалога, и она усваивает их форму - тон, структуру, принятый у вас способ отвечать.
Решает то, как часто меняются ваши факты
Цены, часы работы, наличие, правила и состав сотрудников меняются еженедельно. Поиск справляется с этим, просто перечитывая источник; дообучению потребовалось бы переобучение при каждом изменении, а его никто не делает, и модель уверенно называет цену прошлого квартала. Если же менять надо не факты, а манеру - отвечать всегда двумя предложениями, начинать со ссылки на запись, никогда не писать «к сожалению», - это поведение, и вот здесь дообучение на месте.
Стоимость, сроки и характер отказов
Поиск настраивается за минуты и немного стоит на каждом вопросе, потому что найденные фрагменты входят в то, что читает модель. Его отказ заметен и чинится: нашёлся не тот фрагмент, ответ неверен, вы смотрите журнал и правите страницу-источник. Дообучение стоит прогона обучения и работы по сбору примеров, а его отказ незаметен: модель научилась убедительно звучать о том, чего не знает. Проверить нечего - источника нет.
Когда нужны оба и когда не нужен ни один
Ассистент поддержки для бизнеса - это задача поиска с тонкой прослойкой поведения, причём поведенческую часть на практике решают инструкциями, а не обучением. Дообучение оправдывает себя там, где формат ответа строгий и повторяющийся или язык предметной области настолько своеобразен, что общие модели его коверкают. А если весь ваш материал помещается в один запрос и почти не меняется, не нужно ни то ни другое: вставьте его целиком.
Частые вопросы
Чем RAG отличается от дообучения?
RAG держит знания снаружи модели и достаёт их в момент вопроса, поэтому ответ ссылается на источник и обновляется ровно тогда, когда обновился источник. Дообучение меняет веса модели на примерах диалогов, то есть учит стилю и формату, а не фактам. RAG - про то, что модель должна знать; дообучение - про то, как она должна себя вести.
Что лучше - RAG или дообучение?
В общем виде лучше не бывает. Для знаний, которые меняются - цены, наличие, правила, - верен поиск, а дообучение прямо опасно: переобученная модель называет устаревшие факты уверенно и без ссылки. Для строгого формата ответа или необычной терминологии дообучение делает то, чего поиск не умеет.
Можно ли совмещать RAG и дообучение?
Да, и в требовательных случаях так обычно и делают: дообучение - на форму ответа, поиск - на его содержание. Начинать стоит с поиска: его дешевле построить и его ошибки видны. Дообучение добавляют тогда, когда можно назвать конкретное поведение, которого не удалось добиться инструкциями.
Что дешевле - RAG или дообучение?
У поиска почти нет стоимости внедрения и есть небольшая плата за каждый вопрос, потому что найденные фрагменты входят в читаемое моделью. У дообучения есть ощутимая стартовая стоимость - большая её часть это сбор и вычистка примеров - и меньшая плата за вопрос потом. Стартовая стоимость повторяется каждый раз, когда материал изменился настолько, что нужно переобучение.
Нужно ли дообучение чат-боту на сайте?
Обычно нет. Ассистент на сайте обязан быть актуальным в ценах, часах работы и услугах - это как раз слабое место дообучения, - и обязан уметь показать, откуда взял ответ. SLAtech AI отвечает по вашим страницам поиском и ссылается на них.