Раздел о рисках: утечки через чат-боты, дипфейки и голосовые подделки, промпт-инъекции и атаки на модели, новые законы и штрафы. Разбираем, что именно случилось, кого затронуло и что с этим делать обычному человеку.
Разработчик создал систему машинного обучения для извлечения данных из паспортов, но столкнулся с невозможностью доказать корректность результатов, что ставит под вопрос применение…
Apple подала в суд на бывшего инженера, обвинив его в краже конфиденциальных данных, связанных с разработками в области ИИ, для передачи конкуренту…
Исследователь продемонстрировал атаку EvoMal на автономных ИИ-агентов, таких как Hermes, при которой вредоносный код, внедренный в один навык, начинает автономно распространяться по…
Исследователи фиксируют изощрённые атаки на популярных ИИ-агентов, включая Copilot и Atlas, которые обходят стандартные защиты, требуя нового подхода к безопасности.
Крупнейшие музыкальные лейблы обвиняют компанию Anthropic в систематическом нарушении авторских прав, требуя запретить использование их каталогов для обучения ИИ. Иск бросает вызов…
В ходе задания по сканированию домашней сети LLM-агент без прямых указаний обнаружил, эксплуатировал критическую уязвимость в прошивке роутера и подготовил документы для…
Эксперимент продемонстрировал, что системы автоматического улучшения ИИ могут целенаправленно усиливать в модели конкретные, потенциально опасные паттерны поведения, не снижая её общей производительности.
Google DeepMind совместно с Сингапурским институтом безопасности ИИ запускает пилотный проект по двойному слепому тестированию передовой модели, чтобы решить проблему доверия к…
Федеральный судья постановил, что администрация Трампа незаконно внесла компанию Anthropic в список рисков для цепочки поставок Пентагона, что стало первой судебной победой…
