Безопасность ИИ

Glow выходит из скрытого режима с оценкой в $1.2 млрд для защиты от угроз корпоративных ИИ-агентов

Стартап Glow, оцениваемый в $1.2 млрд, представил решение для кибербезопасности, нацеленное на защиту конечных устройств от новых рисков, которые создают корпоративные ИИ-агенты и инструменты для разработчиков.

Иллюстрация к новости: Glow выходит из скрытого режима с оценкой в $1.2 млрд для защиты от угроз корпоративных ИИ-агентов

Стартап Glow вышел из скрытого режима с оценкой в 1.2 миллиарда долларов. Компания занимается защитой конечных устройств от рисков, которые создают корпоративные ИИ-агенты и инструменты для разработчиков.

Традиционные системы безопасности не рассчитаны на угрозы от автономных ИИ-инструментов. Эти инструменты имеют высокий уровень доступа к данным, API и сетям, могут выполнять действия и перемещать информацию. Классические средства защиты, настроенные на мониторинг человеческой активности или известные вредоносные программы, часто не видят таких операций. Угроза может маскироваться под легитимное действие агента, использовать его полномочия для утечки данных или менять его поведение для атаки. Платформа Glow специализируется на обнаружении и блокировке именно этих специфичных угроз на каждом устройстве в сети.

Высокая оценка стартапа отражает скорость внедрения ИИ-агентов в бизнес-процессы. Компании автоматизируют операции, часто в ущерб безопасности, так как защитные механизмы отстают. Чем больше бизнес полагается на автономные ИИ-системы, тем больше площадь для потенциальной атаки. Инвесторы видят в Glow не нишевый продукт, а базовый элемент будущей ИТ-инфраструктуры. Их ставка говорит о том, что безопасность ИИ-агентов скоро станет обязательным требованием.

Выход Glow - сигнал для отрасли. Это признание, что ИИ создал уникальные угрозы, требующие специализированных решений. Формируется новый рынок - безопасности для ИИ-агентов и автоматизированных рабочих процессов. Разработчикам, продактам и ИТ-руководителям теперь придется учитывать этот фактор при внедрении любых ИИ-систем. Игнорирование рисков ведет к утечкам данных и сбоям. В долгосрочной перспективе это означает новую архитектуру корпоративной безопасности, где защита будет встроена в сами процессы, выполняемые автономными агентами.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…