Microsoft публикует этический кодекс для ИИ: безопасность и контроль вместо "внутренней жизни"
Компания представила свод правил для своих моделей MAI, где главными принципами названы безопасность и человеческий контроль, а концепции искусственного сознания или прав для систем отвергаются.
Microsoft опубликовала этический кодекс для своих моделей искусственного интеллекта под названием "Human AI Codex". В нем компания ставит безопасность и человеческий контроль выше автономности и производительности систем.
Глава Microsoft AI Мустафа Сулейман заявил: "Если это небезопасно, мы не должны это создавать". Эта позиция противопоставлена подходу таких компаний, как Anthropic, которые допускают дискуссии о потенциальном сознании ИИ. Microsoft отвергает приписывание своим моделям "внутренней жизни" или прав.
Кодекс основан на 10 принципах, охватывающих весь жизненный цикл ИИ - от проектирования до мониторинга. Акцент сделан на прозрачности решений модели, что описано как "читаемое мышление", подотчетности людей и предотвращении вреда.
Публикация кодекса состоялась в 2026 году и является ответом на растущие общественные и регуляторные запросы. Отрасль ИИ сталкивается с этическими дилеммами и опасениями о долгосрочных последствиях. Microsoft формирует новый, более консервативный стандарт в индустрии, где ранее доминировала гонка за мощностью.
Внутренний документ компании, известный как "Правила ИИ", содержит 1376 страниц и был разработан для внутреннего использования. Он включает в себя конкретные инструкции, например, правило 09, которое гласит, что ИИ не должен иметь "внутренней жизни", и правило 10, которое запрещает приписывать ИИ какие-либо права. Этот документ, объемом 768 страниц, лег в основу публичного кодекса.
Это означает, что крупнейший технологический гигант берет жесткие обязательства, что может повлиять на других игроков и будущее регулирование. Для разработчиков появляется четкая рамка: инновации не должны идти вразрез с безопасностью. Для пользователей это сигнал, что Microsoft создает инструменты, которые остаются под контролем человека.
В долгосрочной перспективе может произойти разделение философских школ в разработке ИИ. С одной стороны - компании вроде Anthropic, исследующие границы возможного. С другой - прагматики вроде Microsoft, фокусирующиеся на надежных и безопасных инструментах. Это также может повлиять на инвестиции и партнерства, сместив акцент с мощности моделей на доверие к ним. Публичный кодекс, основанный на внутреннем документе, устанавливает конкретные технические и этические ограничения, такие как правило 039, которое касается предотвращения вреда, и подчеркивает необходимость человеческого надзора на всех этапах.
