Безопасность ИИ

Отставка директора Центра стандартов ИИ при администрации Трампа подчеркивает нестабильность регулирования

Дэвид Сакс покинул пост директора Центра стандартов и инноваций в области ИИ, что стало очередной сменой руководства в ключевом регуляторном органе.

Иллюстрация к новости: Отставка директора Центра стандартов ИИ при администрации Трампа подчеркивает нестабильность регулирования

Директор Центра стандартов и инноваций в области ИИ (CAISI) Дэвид Сакс ушел в отставку. Его уход продолжает череду кадровых перемен в руководстве этого регуляторного органа.

CAISI отвечает за координацию разработки стандартов, оценку рисков и выработку рекомендаций для сферы ИИ. Постоянная смена руководителей создает разрыв в управленческой преемственности. Это может замедлить принятие четких правил для отрасли.

Для компаний, работающих с ИИ, нестабильность регулятора означает повышенную неопределенность. Частая ротация руководства ведет к смене приоритетов, пересмотру начатых инициатив и задержкам в утверждении стандартов. Особенно это критично в вопросах безопасности моделей, тестирования на предвзятость и защиты приватности, где нужны ясные государственные ориентиры.

Конечные пользователи технологий ИИ также зависят от качества регулирования. Нестабильность может привести к фрагментации: разные ведомства или штаты начнут действовать несогласованно. Это создаст сложный и противоречивый набор правил, что подорвет доверие к технологиям и замедлит их внедрение в таких сферах, как здравоохранение или финансы.

Частая смена руководителей указывает на более глубокую проблему - сложность выработки единого национального подхода к ИИ. Если регуляторный аппарат не обеспечит стабильное руководство, инициатива по установлению стандартов может перейти к крупным технологическим компаниям или международным организациям. Отсутствие последовательного государственного регулирования оставляет вакуум, который могут заполнить другие игроки, чьи интересы не всегда совпадают с общественными. Это ставит под вопрос способность государства формировать политику в области искусственного интеллекта, которая защищала бы граждан и способствовала ответственным инновациям.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…