Anthropic сообщает о восьмикратном росте продуктивности инженеров благодаря ИИ и предупреждает о рисках рекурсивного самосовершенствования

По данным статьи на Habr, в Anthropic наблюдают переход к новой фазе в развитии искусственного интеллекта. Системы начинают участвовать в создании собственных преемников. Этот процесс, называемый рекурсивным самосовершенствованием, пока не является полностью автономным, но уже заметно ускоряет внутренние разработки.

Ключевым индикатором служит рост объема кода, который инженеры Anthropic фиксируют в репозиториях. Если сравнить с базовым периодом, то сейчас этот объем вырос в 8 раз за квартал. Делегирование рутинных и даже некоторых творческих задач ИИ-ассистентам, таким как Claude, меняет привычные темпы прогресса. Исторически каждый шаг в разработке делался людьми, но сейчас этот паттерн меняется. В компании все больше задач по написанию кода, тестированию и оптимизации моделей поручают ИИ-помощникам. Они помогают не только с рутиной, но и с отдельными сложными аспектами разработки, что формирует траекторию движения к более автономному рекурсивному самосовершенствованию.

В статье под номером 1044008 на Habr компания подчеркивает, что полная автономия ИИ в проектировании следующих поколений систем еще не достигнута. Однако текущие тенденции указывают, что в ближайшие годы системы могут стать значительно мощнее за счет формирующейся положительной обратной связи. Если эта тенденция сохранится и будет достаточно вычислительных ресурсов, отрасль может приблизиться к моменту, когда система сможет самостоятельно разработать своего преемника.

Для отрасли в целом это означает потенциальное ускорение цикла инноваций. Рекурсивное самосовершенствование может стать новым критически важным конкурентным преимуществом. Для пользователей и бизнеса более быстрая эволюция моделей сулит появление более способных и эффективных инструментов в областях автоматизации, анализа данных и других.

Одновременно Anthropic акцентирует внимание на фундаментальных рисках. Полноценное рекурсивное самосовершенствование многократно усиливает опасность потери человеческого контроля над системами, их поведением и конечными целями. Компания предупреждает, что момент достижения полной автономии ИИ в строительстве преемников может наступить раньше, чем социальные институты, регуляторы и сами разработчики успеют к этому подготовиться. Это делает вопросы безопасности ИИ, мониторинга, интерпретируемости и управления поведением систем критически важными уже сегодня. Наблюдаемое ускорение разработки - это сигнал к необходимости срочного развития методологий контроля и согласования целей.