Рубрика

Безопасность ИИ

Безопасность ИИ

Идиократия 2.0: российская система ИИ для определения профпригодности по лицу вызывает серьёзные вопросы

В России разработана система, которая с помощью искусственного интеллекта и анализа лица якобы моментально определяет профессиональную пригодность человека, и этот проект выходит…

Алексей Нейролентов 16 Jun1 мин
Безопасность ИИ

Кибербезопасники требуют от Белого дома снять экспортные ограничения с моделей Anthropic

Десятки экспертов по кибербезопасности призывают администрацию США отменить запрет на экспорт мощных ИИ-моделей Anthropic, заявляя, что это подрывает обороноспособность страны.

Алексей Нейролентов 15 Jun2 мин
Безопасность ИИ

Принудительное отключение моделей Anthropic вскрыло уязвимость Европы в ИИ

Глобальное отключение передовых моделей ИИ Anthropic по требованию США заставило Еврокомиссию и экспертов экстренно обсуждать стратегию цифрового суверенитета.

Алексей Нейролентов 15 Jun2 мин
Безопасность ИИ

Парадокс автоматизации: почему человеческий фактор остаётся главной причиной катастроф

Статистика Boeing показывает, что доля авиакатастроф, связанных с человеческим фактором, стабильно составляет около 80%, несмотря на десятилетия совершенствования автопилота и надёжности самолётов.

Алексей Нейролентов 14 Jun2 мин
Безопасность ИИ

KPMG отозвала отчет о внедрении ИИ с вымышленными примерами из практики клиентов

Консалтинговый гигант KPMG опубликовал и затем отозвал отчет о внедрении искусственного интеллекта, содержащий вымышленные примеры из практики крупных организаций, включая UBS и…

Алексей Нейролентов 14 Jun1 мин
Безопасность ИИ

Приостановка Anthropic в Индии вскрыла пробелы в национальной стратегии ИИ

Решение Anthropic ограничить доступ к своим новым моделям в Индии из-за неясных регуляторных требований стало катализатором жарких дискуссий среди местных технологических лидеров…

Алексей Нейролентов 14 Jun1 мин
Безопасность ИИ

Anthropic о безопасности агентов: критика методологии и упущенные риски

Новое исследование Anthropic о безопасности LLM-агентов подверглось критике за избирательный подход и некорректные сравнения, что ставит под сомнение практическую ценность их выводов.

Алексей Нейролентов 13 Jun2 мин
Безопасность ИИ

Фундаментальная уязвимость: все градиентные атаки на LLM бьют в одну точку

Исследование показало, что разнообразные методы взлома языковых моделей, такие как GCG и AutoDAN, нацелены на единый внутренний вектор отказа, ставя под сомнение…

Алексей Нейролентов 13 Jun1 мин
Безопасность ИИ

Власти США принудительно отозвали самую мощную модель Anthropic из-за уязвимости

Федеральные регуляторы США впервые отозвали широко используемую коммерческую модель ИИ - самую мощную систему компании Anthropic - из-за выявленной уязвимости, позволяющей обойти…

Алексей Нейролентов 13 Jun1 мин