Безопасность ИИ

DetectifAI борется с дипфейковыми голосами на смартфонах после личной истории обмана

Стартап DetectifAI, основанный Тэрини Падманабхуни, разрабатывает компактные ИИ-модели для обнаружения поддельных голосов прямо на устройствах пользователей. Проект, вдохновлённый случаем мошенничества с её дедушкой, стал финалистом Startup Battlefield на TechCrunch Disrupt.

Иллюстрация к новости: DetectifAI борется с дипфейковыми голосами на смартфонах после личной истории обмана

Трагедия в семье подтолкнула к созданию инструмента против цифрового мошенничества. Основательница Тэрини Падманабхан запустила стартап DetectifAI, который разрабатывает компактные модели ИИ для обнаружения дипфейковых голосов прямо на смартфоне. Поводом стал случай, когда мошенники, используя поддельный голос ее брата, обманули дедушку. Теперь ее компания из Сан-Франциско борется за победу в конкурсе Startup Battlefield на TechCrunch Disrupt. Успех может привлечь внимание и ресурсы к проблеме.

Обнаружение аудиодипфейков - одна из сложнейших задач в кибербезопасности. Современные генеративные модели создают голос, неотличимый от настоящего. Большинство решений работают в облаке, что вызывает задержки, требует интернета и ставит под угрозу конфиденциальность данных. DetectifAI предлагает другой подход - легкие модели, работающие прямо на процессоре телефона. Это позволяет анализировать голосовые вызовы мгновенно, без отправки данных на серверы, обеспечивая скорость и приватность.

Перенос вычислений на edge-устройства (на периферию сети) - ключевой тренд в ИИ и безопасности, особенно для защиты от социальной инженерии. Успех DetectifAI может стимулировать оптимизацию моделей для работы с ограниченными ресурсами. Для пользователей, будь то обычные люди или сотрудники компаний, доступная проверка прямо в телефоне - это сдвиг в защите. Смартфон превращается из возможного вектора атаки в активный инструмент обороны, позволяя проверять подозрительные звонки в реальном времени. Это критично, поскольку мошенники давят на жертву, требуя немедленных действий.

Участие в Startup Battlefield - это не только шанс на финансирование, но и сигнал рынку о серьезности проблемы аудиодипфейков. Если проект привлечет инвестиции, это ускорит разработку и возможную интеграцию в ОС, мессенджеры или банковские приложения. В перспективе это может создать новый слой защиты, где проверка подлинности голоса станет стандартной опцией. Однако успех зависит от способности модели адаптироваться к постоянно совершенствующимся методам генерации дипфейков. Личная история основательницы придает проекту не только человеческое измерение, но и четкое понимание пользовательского сценария, что часто ключ к созданию полезного продукта в сфере безопасности. Технический вызов заключается в том, чтобы сохранить высокую точность обнаружения в условиях ограниченной вычислительной мощности мобильных устройств. Решение этой задачи может открыть путь для массового внедрения подобных технологий. Борьба с аудиодипфейками требует не только алгоритмических прорывов, но и изменения подходов к проектированию систем безопасности, где локальная обработка данных становится приоритетом. Участие в таком конкурсе, как Startup Battlefield, дает проекту видимость, необходимую для привлечения экспертов и потенциальных партнеров, что может быть решающим фактором в гонке с мошенниками.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 322 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 397 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 518 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 520 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…