LLM

Как сделать свой ChatGPT?

Светлана, Челябинск 770 просм.

Знакомый рассказывал, что можно сделать что-то вроде своего чат gpt для рабочих задач - например, чтобы бот отвечал именно по нашим внутренним документам компании. Это реально сделать без штата программистов или только для крупных корпораций?

Дмитрий Волков инженер по машинному обучению

ответил

эксперт

Сделать полноценную нейросеть уровня GPT с нуля — это про сотни серверов с видеокартами и месяцы обучения, тут вы правы, это только для больших компаний вроде OpenAI или Яндекса. Но то, о чём рассказывал знакомый, устроено иначе и вполне посильно небольшой команде.

Речь про технологию RAG, retrieval-augmented generation: готовая нейросеть, например через API OpenAI или YandexGPT, не переобучается заново, а просто получает доступ к базе ваших документов. Перед ответом система находит в этой базе несколько подходящих фрагментов и подставляет их в запрос вместе с вопросом пользователя, поэтому ответ строится именно на ваших материалах, а не на общих знаниях модели.

Собрать такое сейчас можно без больших вложений в разработку. У OpenAI есть кастомные GPT, куда можно загрузить документы через простой интерфейс без кода. У Яндекса похожая функция есть в сервисе YandexGPT для бизнеса. Для более гибкой настройки существуют конструкторы вроде Flowise, где сценарий собирается визуально, блоками, а не написанием кода с нуля.

Единственное, на что стоит обратить внимание — куда уходят ваши внутренние документы. Если в них есть коммерческая тайна или персональные данные сотрудников и клиентов, стоит уточнить у поставщика условия хранения данных и по возможности выбрать вариант с российским размещением серверов или корпоративный тариф с отдельными гарантиями конфиденциальности.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме