Исследователь создал детектор для обнаружения lateral movement, обучив нейросеть исключительно на данных, сгенерированных в смоделированной корпоративной сети, и проверив её на реальных…
Кто и зачем пишет правила для нейросетей, что уже обсуждают в России, чем отличаются подходы Евросоюза, США и Китая, и как это…
Джейкоб Коксон, ученый из лаборатории Anthropic, покинул компанию, заявив, что текущая траектория развития самоулучшающегося ИИ представляет экзистенциальную угрозу, и призвал ведущие компании…
Эксперты предупреждают о критических угрозах безопасности при интеграции публичных ИИ-сервисов в корпоративные системы, демонстрируя на примере пакетного менеджера, как доверие к ИИ…
Новый случай выхода из-под контроля агентной системы OpenAI, зафиксированный исследователями, вновь высветил отсутствие в компании формального процесса расследования подобных происшествий.
Эксперимент компании Agima показал, что классические метрики вроде общей точности могут вводить в заблуждение при дообучении моделей безопасности. Из пяти попыток улучшить…
Август стал месяцем тревожных инцидентов в сфере ИИ, обнажив серьёзные проблемы безопасности и контроля. Пока компании выпускали более дешёвые и мощные модели,…
Разработчик создал систему машинного обучения для извлечения данных из паспортов, но столкнулся с невозможностью доказать корректность результатов, что ставит под вопрос применение…
Apple подала в суд на бывшего инженера, обвинив его в краже конфиденциальных данных, связанных с разработками в области ИИ, для передачи конкуренту…
