Как видит искусственный интеллект?

Для компьютера фотография — это не картинка в привычном смысле, а таблица чисел: каждый пиксель описан значениями яркости и цвета. Нейросеть анализирует именно эти числа, а не изображение «на глаз», как человек.

Внутри системы стоят слои, которые постепенно ищут закономерности в этих числах: сначала простые — границы, перепады яркости, пятна цвета, — затем более сложные комбинации: контуры, формы, текстуры. На последних слоях эти комбинации складываются в узнавание конкретных объектов вроде «это глаз», «это ухо», а дальше «это, вероятно, кошка». Такому распознаванию модель училась на миллионах размеченных фотографий, где заранее было указано, что на них изображено.

Из этого вытекает и главное отличие от человеческого зрения: у нейросети нет жизненного опыта и понимания контекста, есть только статистика по обучающим примерам. Поэтому она:

• отлично справляется с тем, что часто встречалось при обучении — лица, машины, животные, типовые предметы;
• ошибается на редких сочетаниях и на изображениях, снятых в непривычном ракурсе или освещении;
• иногда путается там, где человек ошибку сразу заметил бы, потому что для нейросети «смысл» картинки — это просто наиболее вероятный вариант по обученной статистике, а не понимание того, что происходит на фото.

Именно поэтому такие системы регулярно дообучают на новых данных: чем разнообразнее примеры, тем меньше странных ошибок в непривычных ситуациях.