Рубрика

Безопасность ИИ

Безопасность ИИ

Парадокс автоматизации: почему человеческий фактор остаётся главной причиной катастроф

Статистика Boeing показывает, что доля авиакатастроф, связанных с человеческим фактором, стабильно составляет около 80%, несмотря на десятилетия совершенствования автопилота и надёжности самолётов.

Алексей Нейролентов 14 Jun2 мин
Безопасность ИИ

KPMG отозвала отчет о внедрении ИИ с вымышленными примерами из практики клиентов

Консалтинговый гигант KPMG опубликовал и затем отозвал отчет о внедрении искусственного интеллекта, содержащий вымышленные примеры из практики крупных организаций, включая UBS и…

Алексей Нейролентов 14 Jun1 мин
Безопасность ИИ

Приостановка Anthropic в Индии вскрыла пробелы в национальной стратегии ИИ

Решение Anthropic ограничить доступ к своим новым моделям в Индии из-за неясных регуляторных требований стало катализатором жарких дискуссий среди местных технологических лидеров…

Алексей Нейролентов 14 Jun1 мин
Безопасность ИИ

Anthropic о безопасности агентов: критика методологии и упущенные риски

Новое исследование Anthropic о безопасности LLM-агентов подверглось критике за избирательный подход и некорректные сравнения, что ставит под сомнение практическую ценность их выводов.

Алексей Нейролентов 13 Jun2 мин
Безопасность ИИ

Фундаментальная уязвимость: все градиентные атаки на LLM бьют в одну точку

Исследование показало, что разнообразные методы взлома языковых моделей, такие как GCG и AutoDAN, нацелены на единый внутренний вектор отказа, ставя под сомнение…

Алексей Нейролентов 13 Jun1 мин
Безопасность ИИ

Власти США принудительно отозвали самую мощную модель Anthropic из-за уязвимости

Федеральные регуляторы США впервые отозвали широко используемую коммерческую модель ИИ - самую мощную систему компании Anthropic - из-за выявленной уязвимости, позволяющей обойти…

Алексей Нейролентов 13 Jun1 мин
Безопасность ИИ

Исследователи кибербезопасности раскритиковали модель Anthropic Fable за чрезмерные ограничения

Новая модель Fable от Anthropic столкнулась с критикой со стороны экспертов по безопасности из-за слишком строгих защитных механизмов, которые, по их мнению,…

Алексей Нейролентов 10 Jun2 мин
Безопасность ИИ

Smart Engines представила технологию проверки возраста без биометрии и передачи данных

Российская компания Smart Engines анонсировала технологическое решение для верификации возраста пользователей онлайн, которое работает без сбора биометрических данных и передачи персональной информации,…

Алексей Нейролентов 9 Jun2 мин
Безопасность ИИ

Мультиагентный ИИ: сила коллективного разума и его уязвимости

Децентрализованные системы ИИ-агентов, вдохновлённые поведением животных, становятся основой для умных городов и производств, но их распределённая архитектура создаёт беспрецедентные вызовы для кибербезопасности.

Алексей Нейролентов 7 Jun2 мин