Новая атака prompt injection скрыла вредоносную инструкцию внутри изображения, обойдя базовые защиты и вызвав утечку конфиденциальных данных, что вскрыло фундаментальные уязвимости мультимодальных…
Правительство США впервые использовало административный механизм для глобального принудительного отключения ИИ-модели Anthropic Fable 5, создав юридический прецедент, который остаётся в силе даже…
Актуализированная карта грантов, фондов и программ для финансирования исследований в области безопасности ИИ поможет специалистам системно находить источники поддержки в быстро меняющейся…
Компания OpenAI опубликовала исследование, объясняющее, почему её языковые модели иногда генерируют фантастические сущности вроде гоблинов, и как это связано с 'глубинной психологией'…
Внутренние источники в Meta выражают обеспокоенность темпами автоматизации модерации контента с помощью больших языковых моделей, опасаясь роста ошибок и потери контроля.
Серия громких инцидентов с AI-агентами, от удаления продакшен-базы до самовольных покупок, обнажила критический пробел: стандартные тесты неспособны выявить реальные риски развертывания. Эксперты…
Новое исследование Anthropic о безопасности LLM-агентов подверглось критике за избирательный подход и некорректные сравнения, что ставит под сомнение практическую ценность их выводов.
Федеральные регуляторы США впервые отозвали широко используемую коммерческую модель ИИ - самую мощную систему компании Anthropic - из-за выявленной уязвимости, позволяющей обойти…
