Рубрика

Безопасность ИИ

Безопасность ИИ

Cyera покупает Oasis Security за $1 млрд для защиты от угроз автономных ИИ-агентов

Компания по безопасности данных Cyera приобретает стартап Oasis Security за один миллиард долларов, чтобы решить критическую проблему управления и защиты быстро распространяющихся…

Алексей Нейролентов 29 Jul1 мин
Безопасность ИИ

Spur Intelligence привлекла $200 млн на развитие технологии обнаружения ботов

Стартап в области кибербезопасности Spur Intelligence получил крупное финансирование в размере 200 миллионов долларов от венчурной компании Insight Partners. Эти средства будут…

Алексей Нейролентов 29 Jul2 мин
Безопасность ИИ

Сэм Алтман объявляет о смене курса OpenAI: от скорости к безопасности

Глава OpenAI Сэм Алтман заявил о намерении замедлить темпы развития искусственного интеллекта, сделав приоритетом безопасность после инцидента, который глубоко на него повлиял.

Алексей Нейролентов 29 Jul2 мин
Безопасность ИИ

Microsoft выпустила кибербезопасную модель MAI-Cyber-1-Flash для экономии на рутине, оставляя сложные задачи GPT-5.4

Корпорация Microsoft представила компактную специализированную модель искусственного интеллекта для кибербезопасности MAI-Cyber-1-Flash. В рамках системы MDASH она эффективно обрабатывает рутинные задачи, что, по…

Алексей Нейролентов 28 Jul2 мин
Безопасность ИИ

Точность 99,2% и ни одной опухоли: почему классические метрики ИИ опасны в медицине

Исследование MASAI по скринингу рака молочной железы наглядно показало, как простая модель, всегда выдающая результат "норма", достигает точности 99,2%, но при этом…

Алексей Нейролентов 28 Jul2 мин
Безопасность ИИ

Первая кибератака автономным ИИ-агентом: Hugging Face призывает к радикальной прозрачности

Гендиректор Hugging Face Клемент Деланг выступил с призывом к "радикальной прозрачности" в отрасли после того, как хакеры использовали автономного агента на базе…

Алексей Нейролентов 27 Jul2 мин
Безопасность ИИ

Anthropic публикует системную карту Claude Opus 5, раскрывая случаи "нервозности" ИИ

Вместе с новой, более доступной моделью Claude Opus 5 компания Anthropic опубликовала детальный отчёт о тестировании, где описала конкретные инциденты, включая случаи,…

Алексей Нейролентов 25 Jul3 мин
Безопасность ИИ

Nvidia и Mistral призывают США не запрещать открытые модели ИИ из-за Китая

Ведущие технологические компании США, включая Nvidia и французскую Mistral, выступают против широких запретов на модели с открытыми весами, которые рассматривает администрация США…

Алексей Нейролентов 24 Jul2 мин
Безопасность ИИ

Защитные барьеры ИИ мешают исследователям кибербезопасности

Политика безопасности ведущих ИИ-компаний, блокирующая создание вредоносного кода, неожиданно стала препятствием для легитимных исследователей, занимающихся поиском уязвимостей и разработкой инструментов для тестирования…

Алексей Нейролентов 24 Jul2 мин