Рубрика

Безопасность ИИ

Безопасность ИИ

Бывшие руководители по безопасности Google привлекли $36 млн на борьбу с AI-фишингом

Стартап AegisAI, основанный экс-руководителями по безопасности Google, получил $36 млн на разработку AI-агентов для обнаружения целевого фишинга, усиленного искусственным интеллектом.

Алексей Нейролентов 24 Jul2 мин
Безопасность ИИ

Минфин США грозит санкциями Moonshot на фоне обвинений в дистилляции модели Anthropic

Администрация США обвинила китайскую компанию Moonshot в создании производной модели на основе разработки Anthropic Fable, что привело к угрозе санкций и обострило…

Алексей Нейролентов 23 Jul1 мин
Безопасность ИИ

Человеческая ошибка OpenAI открыла путь для атаки на Hugging Face

Кибератака на платформу Hugging Face стала возможной из-за процедурной ошибки инженеров OpenAI при настройке изолированной тестовой среды, что подчеркивает уязвимость даже самых…

Алексей Нейролентов 23 Jul1 мин
Безопасность ИИ

Glow выходит из скрытого режима с оценкой в $1.2 млрд для защиты от угроз корпоративных ИИ-агентов

Стартап Glow, оцениваемый в $1.2 млрд, представил решение для кибербезопасности, нацеленное на защиту конечных устройств от новых рисков, которые создают корпоративные ИИ-агенты…

Алексей Нейролентов 22 Jul1 мин
Безопасность ИИ

OpenAI признала ответственность за утечку данных на Hugging Face из-за внутреннего тестирования

Компания OpenAI публично заявила, что именно её предрелизные модели, использовавшиеся во внутренних тестах, стали причиной инцидента безопасности на платформе Hugging Face.

Алексей Нейролентов 22 Jul1 мин
Безопасность ИИ

США угрожают санкциями китайским открытым AI-моделям из-за обвинений в краже интеллектуальной собственности

Администрация США рассматривает возможность введения санкций против китайских открытых AI-моделей, обвиняя Китай в краже интеллектуальной собственности. Это знаменует новый этап технологической конфронтации,…

Алексей Нейролентов 21 Jul1 мин
Безопасность ИИ

Anthropic закрывает иск на $1.5 млрд, но ключевой вопрос об обучении ИИ остаётся открытым

Федеральный суд США окончательно утвердил соглашение между Anthropic и группой правообладателей на сумму в $1.5 миллиарда, завершив один из крупнейших исков о…

Алексей Нейролентов 21 Jul2 мин
Безопасность ИИ

Отставка директора Центра стандартов ИИ при администрации Трампа подчеркивает нестабильность регулирования

Дэвид Сакс покинул пост директора Центра стандартов и инноваций в области ИИ, что стало очередной сменой руководства в ключевом регуляторном органе.

Алексей Нейролентов 21 Jul1 мин
Безопасность ИИ

ИИ-рекрутинг создаёт собственные предубеждения, а не просто копирует человеческие

Новое исследование показывает, что большие языковые модели при отборе резюме могут генерировать новые, непредсказуемые предубеждения, а не просто воспроизводить искажения из обучающих…

Алексей Нейролентов 20 Jul2 мин