Безопасность ИИ

Трамп и лидеры Big Tech подписали "морально обязывающий" кодекс ИИ и переименовали технологию

Администрация Трампа и главы крупнейших технологических компаний заключили символическое соглашение по ИИ, не предусматривающее реальных санкций, и изменили официальное название технологии.

Иллюстрация к новости: Трамп и лидеры Big Tech подписали "морально обязывающий" кодекс ИИ и переименовали технологию

В Белом доме президент Дональд Трамп с лидерами технологических компаний подписал кодекс поведения в сфере ИИ. Документ носит лишь морально обязывающий характер и не предусматривает юридических санкций. Параллельно Трамп подписал указ, переименовывающий искусственный интеллект в Супер Интеллект, что подчеркивает риторический подход администрации.

Соглашение добровольное. По нему внешние аудиторы должны проверять соответствие моделей заявленным параметрам. Однако механизмы принуждения и четкие последствия для нарушителей отсутствуют. Неясно, кто будет проводить аудиты и что грозит компании в случае несоблюдения. Подписание документа гигантами вроде Meta, xAI, OpenAI и Nvidia скорее демонстрирует их готовность к публичному диалогу, чем к реальным ограничениям.

Событие происходит на фоне международных дебатов об управлении ИИ. В то время как Евросоюз принял жесткий Акт об ИИ, а предыдущая администрация вводила обязательное тестирование безопасности, подход Трампа противоположен. Переименование технологии и ставка на моральные обязательства отражают философию минимального государственного вмешательства. Для индустрии это может означать продолжение периода активной разработки без строгих федеральных рамок, где основными сдерживающими факторами остаются рыночные и репутационные риски.

Для разработчиков и пользователей это имеет двойное значение. Отсутствие жестких правил может ускорить инновации и дать американским компаниям преимущество. С другой стороны, это откладывает создание надежных стандартов безопасности и прозрачности, увеличивая потенциальные риски. Пользователи могут столкнуться с продуктами, проверенными лишь добровольными аудитами с неясными критериями. Отрасль получает сигнал: до следующих выборов федеральное регулирование ИИ в США будет строиться на партнерстве с бизнесом и мягких рекомендациях, а не на обязательных директивах. Это оставляет пространство для маневра, но возлагает дополнительную этическую ответственность на сами технологические компании. Кодекс подписали представители многих компаний, а его текст состоит из значительного числа слов. Документ был опубликован утром по вашингтонскому времени.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 322 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 397 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 518 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 520 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…