Чем опасен искусственный интеллект для обычного человека?

Реальные риски скучнее фантастики, но от этого не менее серьезные. Первый — мошенничество. Голос и видео человека теперь можно подделать по короткой записи из соцсетей, и мошенники уже используют это для звонков «от имени родственника в беде» или поддельных видеообращений от начальства с просьбой перевести деньги.

Второй риск — уверенные, но неверные ответы. Языковые модели вроде ChatGPT не проверяют факты, а предсказывают правдоподобный текст, поэтому могут выдумать несуществующую статью закона, неверную дозировку лекарства или фальшивую судебную практику с абсолютно уверенной интонацией. Опасность растет там, где человек не проверяет ответ, а действует по нему сразу, например в медицине или юридических вопросах.

Третий — предвзятость решений. Если модель обучали на исторических данных с перекосом, например по резюме кандидатов, куда мужчины исторически попадали чаще женщин, система может унаследовать этот перекос и занижать оценку части соискателей, даже не имея злого умысла, просто повторяя закономерность из данных.

Четвертый, менее очевидный риск — утечка данных. Многие бесплатные ИИ-сервисы используют переписку пользователей для дальнейшего обучения моделей, поэтому не стоит вставлять в чат с ботом номера документов, врачебные диагнозы или коммерческую тайну компании: там, где обещана «бесплатная» помощь, вы часто платите собственными данными.