Что такое нейросеть?

Нейросеть — это математическая модель, устроенная по грубой аналогии с нейронами мозга: множество простых элементов, соединённых между собой и передающих друг другу сигналы с разным весом. Каждый такой элемент получает числа на входе, складывает их с учётом веса связи и передаёт результат дальше по слоям.

Вся хитрость не в отдельном нейроне (он делает простейшую операцию), а в обучении: сеть много раз прогоняют через примеры с известным правильным ответом, и после каждой ошибки веса связей чуть-чуть подстраивают. Через миллионы таких мелких поправок сеть постепенно учится находить закономерности — отличать кота от собаки на фото или предсказывать следующее слово в предложении.

Разные задачи используют разное устройство сети: для картинок чаще берут свёрточные сети, которые ищут локальные признаки вроде границ и текстур, для текста — трансформеры, которые умеют учитывать связь между далёкими друг от друга словами. Но принцип один: подать много примеров, сравнить ответ сети с правильным, подправить веса, повторить.

Из этого следует и главное ограничение: нейросеть не рассуждает, а находит статистические закономерности в данных, на которых её обучали. Если в данных не было нужного паттерна, она с той же уверенностью выдаст неверный ответ.