Вопросы про безопасность и риски искусственного интеллекта: дипфейки, ошибки и галлюцинации моделей, приватность данных и то, как отличить подделку от настоящего. Отвечаем спокойно, без паники и без пугалок, с опорой на то, как всё устроено на самом деле.
Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных…
Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий…
Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими.…
Сергей Орлов: Дипфейк-аватар - это не фотошоп видео, а полноценная синтетика: нейросеть строит цифровую модель лица и голоса конкретного человека и накладывает ее поверх…
Сергей Орлов: Дипфейк - это видео или аудио, где нейросеть заменила лицо, голос или мимику человека на фальшивые, но выглядящие правдоподобно. Технология учится на…
Сергей Орлов: Технически такие приемы существуют и иногда работают: их называют джейлбрейками или инъекцией промпта, суть в том, что модель просят притвориться другим персонажем…
Сергей Орлов: Термин "обмануть нейросеть" обычно означает одно из двух: либо джейлбрейк - формулировку, которая обходит встроенные ограничения модели через ролевые сценарии или искажение…
Сергей Орлов: Технически современный сервис для дипфейков (HeyGen, Synthesia, D-ID и подобные) делает почти всё за вас: вы загружаете фото или короткое видео лица,…
Сергей Орлов: Галлюцинация - это не сбой программы и не зависание, как у обычного компьютера. Так называют ситуацию, когда языковая модель уверенно выдаёт неверную…
Сергей Орлов: Галлюцинация - это когда нейросеть выдаёт вымышленную информацию как достоверную: несуществующую статью, неверную дату, придуманную цитату или ссылку на источник, которого нет…
Сергей Орлов: Разработчики ChatGPT встраивают ограничения не для того, чтобы мешать творчеству, а чтобы модель не генерировала контент, который может причинить реальный вред: инструкции…
Марина Соколова: Галлюцинация - это когда языковая модель выдаёт информацию, которая звучит правдоподобно и уверенно, но не соответствует действительности: несуществующую статью, неверную дату, придуманную…
Марина Соколова: Это реальная и хорошо изученная категория атак, ее называют prompt injection и jailbreak. Суть в том, что модель не отличает инструкцию от…
Сергей Орлов: Дипфейк - это фото, видео или аудио, где нейросеть подменила лицо, голос или мимику человека на поддельные, но реалистичные. Делается это через…
Сергей Орлов: По одной картинке в 2026 году отличить хороший дипфейк от настоящего видео на глаз получается не всегда, топовые подделки уже обманывают внимательный…
Сергей Орлов: То, с чем вы столкнулись, называется галлюцинацией: модель выдает вымышленную информацию так же уверенно, как и настоящую, потому что технически не отличает…
Задать свой вопрос
Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.
Вопрос отправлен на модерацию. После проверки он появится на сайте вместе с ответом эксперта.