Как работает искусственный интеллект?

По шагам это выглядит так: сначала данные, потом обучение, потом работа готовой модели, и на каждом этапе происходит что-то своё.

На первом этапе собирают огромный массив текстов, изображений или другого материала — книги, сайты, статьи, диалоги. Модель, по сути нейросеть с миллиардами настраиваемых параметров, много раз проходит по этим данным и постепенно подстраивает свои внутренние параметры так, чтобы предсказывать пропущенное слово или продолжение текста всё точнее. Это и называется обучением, оно требует тысяч видеокарт и недель непрерывных вычислений.

После базового обучения модель дополнительно дообучают на более узких задачах и правят её поведение через обратную связь от людей: ей показывают примеры хороших и плохих ответов, чтобы она реже грубила, отказывалась от вредных просьб и держала более полезный формат ответа. Этот этап часто называют выравниванием.

Готовая модель дальше просто работает в режиме предсказания: получает ваш текст, разбивает его на маленькие кусочки (токены) и шаг за шагом генерирует следующий токен, опираясь на весь текст диалога и на закреплённые при обучении параметры. Никакого отдельного рассуждения в человеческом смысле здесь нет, есть очень быстрый расчёт вероятностей на основе того, чему модель научилась на данных.

Из этого следует практический вывод: качество ответа сильно зависит от того, на каких данных модель обучали и как проходило дообучение. Разные модели — GPT, YandexGPT, GigaChat — обучены на разных наборах данных, поэтому и отвечают по-разному даже на один и тот же вопрос.