Как учится искусственный интеллект?

Устроено действительно иначе, чем у человека, хотя слово «обучение» используют одинаковое. Нейросеть — это набор параметров, чисел, которые в начале обучения выставлены случайно. Ей показывают миллионы примеров — текстов, картинок, диалогов, и после каждого примера алгоритм чуть подправляет эти числа так, чтобы ошибка предсказания стала меньше. Повторяется это миллиарды раз.

У больших языковых моделей вроде тех, что стоят за ChatGPT, процесс идет в два этапа. Сначала предобучение на огромном массиве текстов из интернета и книг — модель просто учится предсказывать следующее слово. Затем идет донастройка: людям показывают несколько вариантов ответа модели, и они отмечают, какой лучше. На этих оценках модель дополнительно подстраивается, чтобы отвечать более полезно и безопасно.

Ключевое отличие от человека — объем данных. Ребенку хватает нескольких примеров, чтобы понять новое правило, а модели для того же нужны тысячи или миллионы похожих случаев — у нее нет настоящего понимания смысла, только статистическая закономерность вида «после таких слов обычно идут вот такие».

И еще момент: у модели нет памяти между разными разговорами, если это не заложено отдельно разработчиком. Она не запоминает ваш вчерашний диалог и не накапливает личный опыт, как человек — каждый новый чат начинается с тех же зафиксированных при обучении параметров.