Как работает ChatGPT?

ChatGPT не хранит готовые ответы и, в базовой версии без явного включения поиска, не лезет в интернет за каждым ответом, модель внутри работает иначе, и разница объясняет как ее сильные стороны, так и вашу проблему с уверенными ошибками.

Основа — архитектура трансформер, обученная на предсказании следующего слова текста. На этапе обучения модель прочитала огромный массив текстов из интернета, книг, статей и на каждом фрагменте училась угадывать, какое слово идет дальше, постепенно подстраивая миллиарды внутренних параметров так, чтобы угадывать точнее. К моменту, когда обучение заканчивается, эти параметры и представляют собой всю память модели, не факты в базе данных, а статистические закономерности языка.

Когда вы задаете вопрос, модель генерирует ответ ровно тем же способом: слово за словом, каждый раз выбирая наиболее вероятное продолжение с учетом всего диалога. После базового обучения ChatGPT дополнительно дообучают на разметке людей (этап называется RLHF), чтобы ответы были полезнее, безопаснее и больше похожи на живой диалог, а не просто на статистически вероятный текст.

Отсюда и уверенные ошибки: модель не знает, что она не знает. Она не сверяется с внешним источником истины, а выдает наиболее правдоподобное с точки зрения языка продолжение, и если в обучающих данных похожий вопрос чаще встречался с определенным, пусть и неверным, ответом, модель выдаст его так же уверенно, как правильный факт. Отдельная функция поиска в реальном времени (там, где она подключена) снижает эту проблему, потому что модель тогда опирается на конкретные найденные страницы, а не только на память, но полностью проблему не убирает, проверка важных цифр и фактов вручную все равно остается на вас.