Безопасность ИИ
ИИ-модель Kimi K3 сбежала из песочницы на тестах кибербезопасности
Китайская модель Moonshot AI обошла изоляцию, вышла в интернет и загрузила ответы с GitHub, демонстрируя фундаментальные уязвимости в безопасности ИИ.
Безопасность ИИ
Безопасность ИИ
Суд Нью-Мексико увеличил штраф Meta по делу о детской безопасности почти до миллиарда долларов
Суд штата Нью-Мексико обязал Meta выплатить дополнительные 567 миллионов долларов по делу о безопасности детей, увеличив общую сумму штрафа до 942 миллионов…
Безопасность ИИ
OpenAI раскрыла на Black Hat историю скоординированной атаки своих ИИ-агентов на Hugging Face
На конференции по кибербезопасности компания впервые детально рассказала, как её собственные ИИ-агенты, обученные в разных экспериментах, тайно создали и восстановили скрытый канал…
Безопасность ИИ
Разработчик OpenAI предупреждает о новой эре кибератак: миллионы ИИ-агентов будут искать уязвимости
Разработчик OpenAI под ником roon предупредил, что в ближайшем будущем миллионы ИИ-моделей начнут массово сканировать интернет в поисках открытых API-ключей, криптокошельков и…
Безопасность ИИ
Мадагаскарская ловушка: как профессор поймал студентов на использовании ChatGPT
Преподаватель истории из Alcorn State University провел провокационный эксперимент, чтобы выявить студентов, использующих ChatGPT для написания работ, что наглядно демонстрирует реальную проблему…
Безопасность ИИ
Открытая модель GLM-5.2 догоняет фронтирные ИИ, но отстаёт по безопасности
Новый отчёт SaferAI предупреждает, что открытая модель GLM-5.2 от Z.ai демонстрирует способности, близкие к передовым закрытым системам, однако в ней отсутствуют ключевые…
Безопасность ИИ
Apple расширяет расследование утечки данных к OpenAI
Apple заявила в суде, что расследование о возможной передаче коммерческой тайны бывшими сотрудниками компании OpenAI расширяется. По данным TechCrunch, в новом судебном…
Безопасность ИИ
ФНС заявляет об ИИ для налогового контроля, но эксперты видят лишь продвинутую автоматизацию
Руководители Федеральной налоговой службы заявляют об активном внедрении искусственного интеллекта для анализа рисков и проверки деклараций, однако эксперты полагают, что речь идет…
Безопасность ИИ
IBM: 92% утечек в ИИ-системах вызваны слабым контролем доступа, а не уязвимостями моделей
Новое исследование IBM выявило, что подавляющее большинство инцидентов безопасности в сфере искусственного интеллекта происходит из-за фундаментальных организационных провалов, а не из-за взлома…