Рубрика

Безопасность ИИ

Безопасность ИИ

KPMG отозвала отчет о внедрении ИИ с вымышленными примерами из практики клиентов

Консалтинговый гигант KPMG опубликовал и затем отозвал отчет о внедрении искусственного интеллекта, содержащий вымышленные примеры из практики крупных организаций, включая UBS и…

Алексей Нейролентов 14 Июн1 мин
Безопасность ИИ

Парадокс автоматизации: почему человеческий фактор остаётся главной причиной катастроф

Статистика Boeing показывает, что доля авиакатастроф, связанных с человеческим фактором, стабильно составляет около 80%, несмотря на десятилетия совершенствования автопилота и надёжности самолётов.

Алексей Нейролентов 14 Июн2 мин
Безопасность ИИ

Приостановка Anthropic в Индии вскрыла пробелы в национальной стратегии ИИ

Решение Anthropic ограничить доступ к своим новым моделям в Индии из-за неясных регуляторных требований стало катализатором жарких дискуссий среди местных технологических лидеров…

Алексей Нейролентов 14 Июн1 мин
Безопасность ИИ

Anthropic о безопасности агентов: критика методологии и упущенные риски

Новое исследование Anthropic о безопасности LLM-агентов подверглось критике за избирательный подход и некорректные сравнения, что ставит под сомнение практическую ценность их выводов.

Алексей Нейролентов 13 Июн2 мин
Безопасность ИИ

Власти США принудительно отозвали самую мощную модель Anthropic из-за уязвимости

Федеральные регуляторы США впервые отозвали широко используемую коммерческую модель ИИ - самую мощную систему компании Anthropic - из-за выявленной уязвимости, позволяющей обойти…

Алексей Нейролентов 13 Июн1 мин
Безопасность ИИ

Фундаментальная уязвимость: все градиентные атаки на LLM бьют в одну точку

Исследование показало, что разнообразные методы взлома языковых моделей, такие как GCG и AutoDAN, нацелены на единый внутренний вектор отказа, ставя под сомнение…

Алексей Нейролентов 13 Июн1 мин
Безопасность ИИ

Исследователи кибербезопасности раскритиковали модель Anthropic Fable за чрезмерные ограничения

Новая модель Fable от Anthropic столкнулась с критикой со стороны экспертов по безопасности из-за слишком строгих защитных механизмов, которые, по их мнению,…

Алексей Нейролентов 10 Июн2 мин
Безопасность ИИ

Smart Engines представила технологию проверки возраста без биометрии и передачи данных

Российская компания Smart Engines анонсировала технологическое решение для верификации возраста пользователей онлайн, которое работает без сбора биометрических данных и передачи персональной информации,…

Алексей Нейролентов 9 Июн2 мин
Безопасность ИИ

Мультиагентный ИИ: сила коллективного разума и его уязвимости

Децентрализованные системы ИИ-агентов, вдохновлённые поведением животных, становятся основой для умных городов и производств, но их распределённая архитектура создаёт беспрецедентные вызовы для кибербезопасности.

Алексей Нейролентов 7 Июн2 мин