Безопасность ИИ

OpenAI публично подтверждает приверженность принципам ответственного ИИ в Европе

Компания OpenAI сделала стратегическое заявление о своей приверженности ключевым принципам ответственного ИИ - безопасности, прозрачности и отслеживаемости контента - напрямую связав это с европейским регулированием. Этот шаг направлен на укрепление доверия регуляторов и пользователей в критически важном регионе еще до полного вступления в силу EU AI Act.

Иллюстрация к новости: OpenAI публично подтверждает приверженность принципам ответственного ИИ в Европе

OpenAI официально заявила о приверженности принципам ответственного ИИ в Европе. Компания связала свои практики с формирующимся европейским регулированием, в частности с полным вступлением в силу Закона об ИИ ЕС. Это сигнал о готовности работать в рамках европейских норм.

Компания выделила ключевые направления работы. Во-первых, это безопасность систем, включая технические меры по снижению рисков. Во-вторых, прозрачность, то есть открытость о возможностях и ограничениях моделей. В-третьих, отслеживаемость контента, что означает развитие технологий для идентификации материалов, созданных ИИ. Эти направления напрямую связаны с европейскими требованиями по борьбе с дезинформацией.

Контекстом служит активный процесс регулирования ИИ в ЕС. Закон об ИИ использует риск-ориентированный подход, где мощные генеративные системы подпадают под строгие требования. Для OpenAI, чьи модели широко используются в Европе, проактивное соответствие - это и юридическая необходимость, и способ сохранить доверие на важном рынке.

Такой шаг может задать тон для всей отрасли. Когда ведущий разработчик публично отчитывается о своих подходах, связывая их с регуляторными рамками, это может подтолкнуть других игроков к аналогичным действиям. Для европейских пользователей это сигнал о намерении компании оставаться партнером в регионе.

Однако реальная проверка этих заявлений наступит позже. Она произойдет, когда положения европейского закона начнут применяться на практике. Именно тогда станет ясно, как декларируемые принципы воплощаются в конкретных и измеримых мерах. Пока же это демонстрация стратегического позиционирования в условиях меняющихся правил игры.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…