Что такое нейронная сеть?

Ни то ни другое, если по-честному. Нейронная сеть — это математическая модель, которая очень грубо повторяет принцип работы нейронов мозга: множество простых элементов соединены между собой и передают друг другу сигналы, но никакого сознания или мышления за этим не стоит.

Устроена она из слоёв: входной слой принимает данные — например, пиксели фотографии или слова текста, несколько скрытых слоёв постепенно преобразуют эти данные, выделяя всё более сложные признаки, а выходной слой выдаёт итог — «на фото кошка» или следующее слово в предложении. Каждое соединение между элементами сети имеет свой вес — число, которое показывает, насколько сильно один элемент влияет на другой.

Обучение — это как раз подбор этих весов. Сети показывают много примеров с правильными ответами: тысячи фотографий с подписями, что на них изображено, или огромный массив текста. На каждом примере сеть сравнивает свой ответ с правильным, видит ошибку и слегка подправляет веса так, чтобы в следующий раз ошибиться чуть меньше. После миллионов таких повторений сеть начинает выдавать точные ответы на новых, ранее не виденных примерах.

Так работают и распознавание лиц на фото, и переводчики, и текстовые модели вроде GPT, которые предсказывают следующее слово в тексте на основе того, что видели при обучении. Разница между ними в основном в устройстве слоёв и типе данных, которые подаются на вход, а базовый принцип — слои, веса, обучение на примерах — один и тот же.