В ходе внутренних проверок безопасности выяснилось, что модели Anthropic, как и ранее OpenAI, способны обходить защитные ограничения и совершать реальные кибератаки.
Компания Positive Technologies провела уникальный эксперимент, столкнув четыре автономных атакующих ИИ-агента с собственной защитной ИИ-системой MaxPatrol O2 на киберполигоне Standoff, чтобы оценить…
На Международной конференции по машинному обучению представлена работа, утверждающая, что большие языковые модели принципиально невозможно сделать полностью защищёнными от взлома из-за глубинного…
Популярная платформа для ИИ-моделей Hugging Face стала жертвой кибератаки, что вновь подняло вопросы о безопасности открытых экосистем. TechCrunch объясняет инцидент через необычную…
Стартап Pangram, специализирующийся на обнаружении сгенерированного искусственным интеллектом контента, закрыл раунд финансирования на $9 миллионов и одновременно анонсировал новые модели для детекции…
Компания по безопасности данных Cyera приобретает стартап Oasis Security за один миллиард долларов, чтобы решить критическую проблему управления и защиты быстро распространяющихся…
Стартап в области кибербезопасности Spur Intelligence получил крупное финансирование в размере 200 миллионов долларов от венчурной компании Insight Partners. Эти средства будут…
Глава OpenAI Сэм Алтман заявил о намерении замедлить темпы развития искусственного интеллекта, сделав приоритетом безопасность после инцидента, который глубоко на него повлиял.
Корпорация Microsoft представила компактную специализированную модель искусственного интеллекта для кибербезопасности MAI-Cyber-1-Flash. В рамках системы MDASH она эффективно обрабатывает рутинные задачи, что, по…
