Безопасность ИИ

Nvidia и Mistral призывают США не запрещать открытые модели ИИ из-за Китая

Ведущие технологические компании США, включая Nvidia и французскую Mistral, выступают против широких запретов на модели с открытыми весами, которые рассматривает администрация США в рамках мер по сдерживанию китайского ИИ.

Иллюстрация к новости: Nvidia и Mistral призывают США не запрещать открытые модели ИИ из-за Китая

Администрация США рассматривает меры по ограничению доступа Китая к передовым технологиям искусственного интеллекта, включая возможные запреты на распространение моделей с открытыми весами. Однако представители технологической индустрии активно выступают против подобных шагов. Такие компании, как американская Nvidia и французская Mistral AI, призывают законодателей отказаться от широких запретов, аргументируя это тем, что ограничения нанесут удар по инновациям и открытым исследованиям, что в конечном счете может подорвать технологическое лидерство самих Соединенных Штатов.

Контекстом этих обсуждений являются вопросы экспортного контроля и национальной безопасности. Власти опасаются, что открытые модели, чья архитектура и параметры находятся в свободном доступе, могут быть легко скопированы и адаптированы для систем двойного назначения, включая военные. Индустрия же считает такой подход контрпродуктивным. По мнению компаний, открытые модели являются фундаментом современной экосистемы ИИ, стимулируя академическую науку, развитие стартапов и создание новых приложений, что формирует ключевое конкурентное преимущество.

Для многих разработчиков открытые модели представляют собой критическую инфраструктуру, значительно снижающую порог входа в отрасль и позволяющую небольшим командам создавать продукты без необходимости колоссальных инвестиций в обучение моделей с нуля. Отраслевые эксперты полагают, что введение ограничений может замедлить волну инноваций внутри США и стран-союзников. Это рискует сместить инициативу в сторону крупных корпораций с закрытыми экосистемами или, что парадоксально, в пользу китайских компаний, которые смогут развивать собственные подходы в менее рестриктивной регуляторной среде. Таким образом, меры, призванные усилить безопасность, могут ослабить саму открытую экосистему, которая сегодня рассматривается как главный актив в технологическом соперничестве.

Перед регуляторами стоит сложная задача. С одной стороны, существует обоснованная озабоченность военным применением ИИ и стратегическим соперничеством. С другой стороны, индустрия настаивает на более точечных мерах, таких как контроль за экспортом конкретных мощных моделей или ключевых технологий обучения, а не на введении широких запретов на целый класс разработок.

Итог этой дискуссии определит будущее экспортной политики США и повлияет на глобальную среду разработки искусственного интеллекта. Жесткие ограничения способны привести к фрагментации мирового исследовательского сообщества и общему замедлению прогресса в области. Если же возобладает подход, отстаиваемый компаниями вроде Nvidia и Mistral, существующая парадигма открытых инноваций может сохраниться, но это потребует от властей разработки более изощренных и целевых механизмов для управления рисками, связанными с передачей технологий.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…