Как создать свою нейросеть?
Павел, Киров 302 просм.
Руковожу небольшой командой поддержки, хотим бота, который отвечает клиентам в нашем стиле и знает наши товары. Постоянно слышу совет создать свою нейросеть, но не понимаю, о чём вообще речь: писать модель с нуля, обучать чужую или это что-то третье?
Марина Соколова аналитик по внедрению ИИ
ответил
В вашей ситуации речь почти наверняка не о создании нейросети с нуля. Обучение модели с нуля — это месяцы работы команды дата-сайентистов, тысячи видеокарт и датасеты на миллиарды примеров, такое делают компании уровня OpenAI или Яндекса, а не отдел поддержки.
Для задачи «бот отвечает в нашем стиле и знает наши товары» есть два реалистичных пути. Первый — дообучение готовой открытой модели (например, Llama или Mistral) на своих данных методом LoRA: это дообучение небольшой добавочной части весов, требует не миллиардов примеров, а нескольких тысяч диалогов и сравнительно скромных вычислительных мощностей, можно уложиться в аренду одной видеокарты на несколько часов. Второй, ещё проще — не трогать веса модели вообще, а подключить её к базе знаний о ваших товарах через технологию RAG: модель при ответе подтягивает нужный кусок документации и отвечает на его основе. Для большинства команд поддержки это и есть решение задачи, без всякого обучения.
Как выбирать между вариантами:
- если меняется в основном фактура (товары, цены, инструкции) — берите RAG, это быстрее и дешевле;
- если нужно устойчиво менять стиль и манеру ответов — добавляйте лёгкое дообучение поверх RAG.
С точки зрения бизнеса вопрос обычно не «как обучить», а «что выгоднее»: своя дообученная модель требует инфраструктуры и обслуживания, а готовый сервис с настройкой через API снимает эту нагрузку, но привязывает к чужой платформе и её ценам. Для команды без своих инженеров данных я в девяти случаях из десяти рекомендую начинать с готового API и базы знаний, а к дообучению переходить только когда накопится статистика, где именно стандартная модель ошибается.
Задать свой вопрос
Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.
Вопрос отправлен на модерацию. После проверки он появится на сайте вместе с ответом эксперта.