Регулирование искусственного интеллекта: что готовят в России и мире

Регулирование искусственного интеллекта - это правила, которые государства и международные организации устанавливают для того, как компании разрабатывают, обучают и применяют нейросети, а обычные люди ими пользуются. По сути та же история, что с автомобилями: сначала появился двигатель, а правила дорожного движения, техосмотр и права возникли позже, когда машин на дорогах стало слишком много, чтобы обходиться без общих норм.

К теме регулирования искусственного интеллекта законодатели по всему миру подошли не от скуки, а потому что нейросети уже принимают решения, которые раньше принимал человек: одобряют или отклоняют заявку на кредит, отсеивают резюме на собеседовании, рисуют лица и голоса, которые не отличить от настоящих. Правила только складываются, причём в разных странах они движутся с разной скоростью и в разные стороны, так что все формулировки ниже стоит воспринимать как снимок обсуждения на сегодня, а не окончательный список норм - тема живая и меняется быстрее, чем успевают выходить учебники по праву.

Зачем вообще понадобились правила для нейросетей

Первая и самая заметная причина - подделки. Дипфейк-видео шагнули так далеко, что ролик с чужим лицом или голосом политика можно собрать за пару часов на обычном ноутбуке, а не за недели работы монтажной студии. Отсюда растущий интерес властей к маркировке контента, созданного нейросетью: если зритель не может на глаз отличить съёмку от генерации, должна остаться хотя бы техническая метка, которая это подскажет.

Вторая причина - решения, которые нейросеть принимает вместо человека и которые трудно оспорить. Если банк отказал в кредите, а объяснение звучит как "так решил алгоритм", человеку почти не за что зацепиться: неясно, на основании чего именно вынесен вердикт и была ли модель обучена на данных, где определённые группы людей систематически получали отказ чаще других. Из этой проблемы и растут требования к прозрачности алгоритмов в чувствительных сферах - кредитах, найме, медицине, полицейской работе.

Третья причина скучнее, но касается почти всех: чьи тексты, картинки и код используются для обучения моделей и кто после этого владеет правами на результат. Художник, чьи работы попали в обучающую выборку без спроса, и компания, которая эту выборку собрала, смотрят на вопрос совершенно по-разному, и однозначного ответа, который устроил бы обе стороны, пока ни в одной стране не нашли.

Что обсуждают в России

В России уже действует добровольный кодекс этики в сфере искусственного интеллекта, который подписали крупные технологические компании и исследовательские центры. Ключевое слово здесь - добровольный: это скорее декларация о намерениях вести себя ответственно, чем документ, за нарушение которого предусмотрены санкции.

Параллельно обсуждаются более жёсткие меры. Один из вариантов - обязательная маркировка контента, созданного нейросетью: текста, изображений, аудио и видео, чтобы пользователь понимал, с чем имеет дело, не гадая по артефактам на картинке. Другой - более чёткие правила о том, кто отвечает, если ИИ-система причинила вред: разработчик, который её обучил, компания, которая внедрила её в свой продукт, или пользователь, который дал системе конкретную задачу. Однозначного ответа пока нет ни в проектах, ни в уже принятых нормах.

Отдельно звучит тема экспериментальных правовых режимов - специального порядка, при котором отдельным регионам или компаниям разрешают тестировать технологию по смягчённым правилам, прежде чем распространять требования на всю страну. Похожий механизм уже применялся для беспилотного транспорта, и для искусственного интеллекта его тоже рассматривают как способ не душить разработку жёсткими нормами раньше времени, но и не оставлять сферу совсем без контроля.

Моё личное наблюдение: в публичных обсуждениях явно больше говорят об экономике и конкурентоспособности, чем об ограничениях. Государство одновременно хочет, чтобы отечественные разработки не отставали от зарубежных конкурентов, и чтобы у пользователя оставались хоть какие-то гарантии на случай, если алгоритм ошибётся. Балансировать между этими двумя целями сложно, и итоговый набор норм наверняка будет результатом компромисса, а не чьей-то одной победившей позиции.

Как к вопросу подходят за рубежом

Евросоюз: чем выше риск, тем строже требования

Евросоюз выбрал риск-ориентированный подход: системы делят на категории по тому, какой вред они потенциально способны причинить. Слежка за людьми по биометрии в общественных местах и система социального рейтинга, похожая на присвоение гражданам баллов за поведение, попадают в категорию неприемлемого риска и по сути запрещены. Системы, которые влияют на приём на работу, доступ к кредиту или медицинским услугам, отнесены к высокому риску и должны проходить проверки, вести документацию и оставаться объяснимыми для проверяющих органов. Обычный чат-бот для ответов на вопросы клиентов подпадает под минимальные требования - в первую очередь его нужно обозначить как систему на основе ИИ, чтобы человек не принял его за живого сотрудника.

США: правила растут снизу, а не сверху

В США нет единого федерального закона, который охватывал бы искусственный интеллект целиком. Вместо этого действует смесь из указов исполнительной власти, рекомендаций профильных ведомств и законов отдельных штатов, которые нередко противоречат друг другу. Компании, которые работают на весь американский рынок, из-за этого вынуждены одновременно следить за требованиями десятков юрисдикций, а не за одним общим сводом правил - подход менее стройный, чем европейский, зато более гибкий и быстрее подстраивающийся под конкретные отрасли.

Китай контролирует прежде всего сам контент

Китайский подход сфокусирован не столько на правах человека перед алгоритмом, сколько на содержании того, что генеративные модели выдают публично. Сервисы, доступные массовому пользователю, обязаны маркировать сгенерированный контент и проходить проверку алгоритмов до того, как открыть к ним доступ широкой аудитории. Отдельно контролируется соответствие результатов генерации требованиям к публикуемой информации - в этом смысле регулирование в Китае устроено скорее как продолжение контроля за медиа, чем как отдельная технологическая политика.

Из этих трёх примеров видно, что единого мирового стандарта не существует и в обозримом будущем вряд ли появится: слишком по-разному устроены сами правовые системы и представления о том, что государство вообще должно контролировать.

Что это значит на практике

Для бизнеса, который внедряет ИИ в свои процессы, разговоры о регулировании - не абстрактная политика, а вопрос будущих затрат. Если компания уже встроила нейросеть в отбор кандидатов на работу или в оценку клиентов, ей стоит заранее закладывать ресурс на документирование того, как модель принимает решения: требования к прозрачности рано или поздно доберутся и до тех, кто сейчас работает без оглядки на них.

Для обычного пользователя, который просто пользуется бесплатными нейросетями для работы или развлечения, изменения ощущаются мягче: скорее всего, вы увидите пометку о том, что текст или картинка сгенерированы ИИ, или условие в пользовательском соглашении о том, как используются ваши данные. Прямого запрета пользоваться конкретным сервисом обсуждаемые меры почти нигде не предполагают - речь идёт об обязанностях компаний, а не о наказании для тех, кто просто открыл чат-бот.

Частые заблуждения о регулировании ИИ

Искусственный интеллект вот-вот запретят. Ни в одной из обсуждаемых сейчас инициатив речи о полном запрете технологии нет - обсуждаются ограничения для конкретных сценариев использования, в первую очередь высокорисковых, а не запрет разработки нейросетей как таковой.

Раз я не разработчик, меня это не касается. На деле требования о маркировке и раскрытии информации в первую очередь адресованы тем, кто публикует сгенерированный контент или принимает решения на основе алгоритма - а это уже не только IT-компании, но и любой бизнес, который использует готовые сервисы.

Существует один общий закон об искусственном интеллекте для всего мира. Нет: у каждой юрисдикции свой набор норм, свои сроки и свои приоритеты, и сервис, легальный в одной стране, может нарушать правила в другой просто потому, что там иначе определили высокий риск.

Открытые модели с доступным кодом вне зоны действия любых правил. Формально это не так: требования о маркировке контента или ответственности за причинённый вред обычно распространяются на то, как система используется, а не на то, открыт её код или закрыт.

Регулирование обязательно затормозит развитие технологий. Опасение небезосновательное, и споры об этом идут внутри самой индустрии, но пока нет данных, которые однозначно подтверждали бы, что именно жёсткие правила, а не что-то другое, тормозят конкретные разработки - это скорее предмет дискуссии, чем установленный факт.

Норм в этой сфере не будет ещё много лет, торопиться некуда. Обсуждения идут прямо сейчас в нескольких странах одновременно, и часть требований о маркировке контента и раскрытии данных уже действует или проходит финальные стадии согласования - ждать, пока всё окончательно устаканится, значит рисковать узнать о новых обязанностях постфактум.

Если вы используете нейросети в работе или бизнесе, разумная стратегия - не пытаться предугадать итоговый текст будущих норм, а уже сейчас вести себя так, будто прозрачность обязательна: помечать сгенерированный контент, хранить данные о том, как и на чём обучена используемая модель, и не строить критичные процессы на алгоритме, чьи решения невозможно объяснить человеку. Это дешевле, чем потом срочно перекраивать процессы под норму, которая войдёт в силу без предупреждения. Больше материалов по теме безопасности собрано в архиве рубрики.