Безопасность ИИ

Бывшие руководители по безопасности Google привлекли $36 млн на борьбу с AI-фишингом

Стартап AegisAI, основанный экс-руководителями по безопасности Google, получил $36 млн на разработку AI-агентов для обнаружения целевого фишинга, усиленного искусственным интеллектом.

Иллюстрация к новости: Бывшие руководители по безопасности Google привлекли $36 млн на борьбу с AI-фишингом

Венчурный рынок ставит на технологии для борьбы с киберугрозами, которые создаются с помощью ИИ. Стартап AegisAI, основанный бывшими руководителями по безопасности Google, привлек 36 миллионов долларов. Компания разрабатывает специализированных AI-агентов против целевого фишинга (spear phishing), ставшего изощреннее из-за генеративных моделей.

Сооснователи AegisAI создают агентов, которые анализируют каждое входящее сообщение - email, сообщение в мессенджере или соцсети. Они работают не по статичным правилам, а ищут контекстуальные аномалии, несоответствия в стиле письма, логике или репутации отправителя. Эти нюансы часто пропускают традиционные фильтры. Метод важен, так как злоумышленники используют большие языковые модели для генерации персонализированных, грамматически безупречных фишинговых сообщений, легко обходящих фильтры по ключевым словам.

Появление AegisAI знаменует сдвиг в кибербезопасности от реактивной защиты к проактивной, основанной на анализе намерений и контекста. Традиционные решения обновляют базы сигнатур уже после атаки. AI-агенты, обученные на нормальных коммуникационных паттернах организации, выявляют отклонения в реальном времени. Это создает рынок средств защиты от угроз, порожденных ИИ. Инвестиции подтверждают растущую озабоченность рисками генеративного ИИ для корпоративной безопасности.

Для компаний внедрение таких технологий может снизить один из самых рискованных векторов атак. Целевой фишинг против сотрудников с высоким уровнем доступа остается крайне эффективным. AI-усиленные атаки делают его еще опаснее. Агенты, работающие как постоянный проверяющий слой, становятся дополнительной защитой. Это не отменяет обучение персонала, но добавляет технологический барьер там, где человеческая бдительность может дать сбой. Успех AegisAI может стимулировать появление класса аналогичных решений.

Гонка вооружений между атакующим и защищающимся ИИ ведет к глубокой интеграции этих технологий в ядро стратегий безопасности. В будущем системы защиты будут не просто фильтровать сообщения, а постоянно обучаться на коммуникационных потоках организации, строя динамические модели. Финансирование AegisAI - сигнал рынка: эра, когда ИИ был в основном инструментом хакеров, меняется. Теперь продвинутый ИИ становится обязательным защитником.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…