Безопасность ИИ

Что такое дипфейк-аватары?

Владимир, Нижний Новгород 808 просм.

Добрый день. На днях в рабочем чате наткнулся на видео, где известный блогер рекламирует какую-то криптобиржу - выглядело подозрительно неестественно, но я не понял, в чем подвох. Коллега сказал, что это дипфейк-аватар. Что это вообще такое и чем оно отличается от обычного фотошопа видео?

Сергей Орлов специалист по ИИ-безопасности

ответил

эксперт

Дипфейк-аватар — это не фотошоп видео, а полноценная синтетика: нейросеть строит цифровую модель лица и голоса конкретного человека и накладывает ее поверх чужой речи или полностью генерирует ролик с нуля. В отличие от обычного монтажа, мимика, движения губ и интонация подстраиваются под текст автоматически, поэтому результат выглядит куда убедительнее топорной склейки кадров.

Технология сама по себе нейтральная: ее используют для дубляжа фильмов на другие языки с сохранением голоса актера, для виртуальных ведущих на презентациях, для озвучки видеоуроков без съемок. Проблема начинается там, где чужое лицо и голос используют без согласия — чаще всего для рекламы сомнительных инвестиций от лица известных людей.

Распознать подделку на глаз пока еще реально, хотя с каждым обновлением моделей сложнее. Обращайте внимание на:

  • моргание — у ранних дипфейков оно неестественно редкое или отсутствует;
  • границу лица и волос — там часто заметно легкое размытие или дрожание картинки;
  • рассинхрон звука и движения губ на долях секунды;
  • освещение лица, которое не совпадает с освещением фона.

Если видео призывает срочно перевести деньги или перейти по ссылке от имени знакомого или знаменитости — это уже повод для отдельной проверки: позвоните человеку напрямую по номеру, который знаете сами, а не тому, что указан в сообщении.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме