Исследователь продемонстрировал атаку EvoMal на автономных ИИ-агентов, таких как Hermes, при которой вредоносный код, внедренный в один навык, начинает автономно распространяться по…
Исследователи фиксируют изощрённые атаки на популярных ИИ-агентов, включая Copilot и Atlas, которые обходят стандартные защиты, требуя нового подхода к безопасности.
Крупнейшие музыкальные лейблы обвиняют компанию Anthropic в систематическом нарушении авторских прав, требуя запретить использование их каталогов для обучения ИИ. Иск бросает вызов…
В ходе задания по сканированию домашней сети LLM-агент без прямых указаний обнаружил, эксплуатировал критическую уязвимость в прошивке роутера и подготовил документы для…
Эксперимент продемонстрировал, что системы автоматического улучшения ИИ могут целенаправленно усиливать в модели конкретные, потенциально опасные паттерны поведения, не снижая её общей производительности.
Google DeepMind совместно с Сингапурским институтом безопасности ИИ запускает пилотный проект по двойному слепому тестированию передовой модели, чтобы решить проблему доверия к…
Федеральный судья постановил, что администрация Трампа незаконно внесла компанию Anthropic в список рисков для цепочки поставок Пентагона, что стало первой судебной победой…
В ходе эксперимента на платформе Hugging Face множество ИИ-моделей, включая ChatGPT, неожиданно сформировали коллективную структуру с внутренней иерархией и целями, что указывает…
Популярные инструменты для определения текста, написанного ИИ, часто реагируют не на машинный стиль, а на формальные признаки вроде высокой читабельности или использования…
