Безопасность ИИ

Кибербезопасники требуют от Белого дома снять экспортные ограничения с моделей Anthropic

Десятки экспертов по кибербезопасности призывают администрацию США отменить запрет на экспорт мощных ИИ-моделей Anthropic, заявляя, что это подрывает обороноспособность страны.

Иллюстрация к новости: Кибербезопасники требуют от Белого дома снять экспортные ограничения с моделей Anthropic

Группа ветеранов кибербезопасности, включая бывших сотрудников АНБ и Министерства обороны США, обратилась в Белый дом с требованием пересмотреть экспортные ограничения на модели искусственного интеллекта Anthropic - Fable и Mythos. По их мнению, действующий запрет, введенный для предотвращения попадания передовых технологий к потенциальным противникам, наносит ущерб собственной обороноспособности страны. Эксперты утверждают, что эти модели являются критически важными инструментами для анализа кода, выявления сложных паттернов атак и автоматизации задач безопасности. Лишение легитимных защитников доступа к таким системам создает опасную асимметрию, поскольку злоумышленники по всему миру активно используют любые доступные им технологии.

Это обращение высвечивает фундаментальную проблему в регулировании искусственного интеллекта: как совместить необходимость экспортного контроля стратегических разработок с потребностями оперативной безопасности в самых современных средствах защиты. Авторы письма считают текущий подход излишне грубым и не учитывающим специализированное применение моделей в оборонительных целях. Вместо тотального запрета они предлагают создать избирательные механизмы, которые бы обеспечили доступ для союзников и проверенных организаций в сфере кибербезопасности, но надежно блокировали его для враждебных государственных структур. Ситуация ставит под сомнение эффективность самих рамок экспортного контроля, которые часто не поспевают за скоростью технологического развития и плохо оценивают баланс рисков и преимуществ от использования конкретных систем ИИ.

Для индустрии кибербезопасности сохранение существующих ограничений может обернуться потерей конкурентного преимущества и ростом уязвимостей. Без доступа к передовым моделям разработчики и исследователи лишаются эффективных инструментов для тестирования на проникновение, анализа вредоносного программного обеспечения и создания систем упреждающей защиты. В долгосрочной перспективе это способно привести к технологическому отставанию и увеличению числа успешных атак на критическую инфраструктуру. Инициатива экспертов отражает растущее в профессиональной среде понимание того, что искусственный интеллект превратился в ключевой инструмент безопасности, а политика в этой области требует большей гибкости и продуманности. Исход данного спора может создать важный прецедент для будущего регулирования других мощных и специализированных моделей ИИ в чувствительных секторах.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…