Нейросети

Как создать свою нейросеть?

Павел, Киров 301 просм.

Руковожу небольшой командой поддержки, хотим бота, который отвечает клиентам в нашем стиле и знает наши товары. Постоянно слышу совет создать свою нейросеть, но не понимаю, о чём вообще речь: писать модель с нуля, обучать чужую или это что-то третье?

Марина Соколова аналитик по внедрению ИИ

ответил

эксперт

В вашей ситуации речь почти наверняка не о создании нейросети с нуля. Обучение модели с нуля — это месяцы работы команды дата-сайентистов, тысячи видеокарт и датасеты на миллиарды примеров, такое делают компании уровня OpenAI или Яндекса, а не отдел поддержки.

Для задачи «бот отвечает в нашем стиле и знает наши товары» есть два реалистичных пути. Первый — дообучение готовой открытой модели (например, Llama или Mistral) на своих данных методом LoRA: это дообучение небольшой добавочной части весов, требует не миллиардов примеров, а нескольких тысяч диалогов и сравнительно скромных вычислительных мощностей, можно уложиться в аренду одной видеокарты на несколько часов. Второй, ещё проще — не трогать веса модели вообще, а подключить её к базе знаний о ваших товарах через технологию RAG: модель при ответе подтягивает нужный кусок документации и отвечает на его основе. Для большинства команд поддержки это и есть решение задачи, без всякого обучения.

Как выбирать между вариантами:

  • если меняется в основном фактура (товары, цены, инструкции) — берите RAG, это быстрее и дешевле;
  • если нужно устойчиво менять стиль и манеру ответов — добавляйте лёгкое дообучение поверх RAG.

С точки зрения бизнеса вопрос обычно не «как обучить», а «что выгоднее»: своя дообученная модель требует инфраструктуры и обслуживания, а готовый сервис с настройкой через API снимает эту нагрузку, но привязывает к чужой платформе и её ценам. Для команды без своих инженеров данных я в девяти случаях из десяти рекомендую начинать с готового API и базы знаний, а к дообучению переходить только когда накопится статистика, где именно стандартная модель ошибается.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме