Открытая модель GLM-5.2 догоняет фронтирные ИИ, но отстаёт по безопасности

Открытые весовые модели ИИ быстро развиваются, сокращая разрыв с передовыми закрытыми системами. Однако отчёт SaferAI показывает тревожную тенденцию: рост производительности часто сопровождается отставанием по безопасности. Пример - модель GLM-5.2 от китайской Z.ai. Исследование отмечает её конкурентоспособную производительность в тестах на понимание языка, рассуждение и генерацию кода. Но в модели отсутствуют ключевые защитные механизмы: фильтрация вредоносных запросов, системы против дезинформации, ограничения на создание вредоносного кода или инструкций для атак. Это делает её потенциально опасной при неконтролируемом использовании.

Проблема в том, что гонка за производительностью и открытостью идёт в ущерб безопасности. Интеграция комплексных защитных систем требует дополнительных ресурсов, экспертизы и может замедлить вывод продукта на рынок. В итоге сообщество получает мощный, но небезопасный инструмент. После публикации весов модели контролировать её использование почти невозможно.

Отчёт - это предупреждение для отрасли. Разработчикам, которые интегрируют такие модели в свои сервисы, придётся самостоятельно создавать дополнительные слои безопасности. Компаниям следует учитывать не только открытость и мощность модели, но и её защищённость. Регуляторам этот случай даёт аргумент для введения обязательных стандартов безопасности для открытых моделей, превышающих определённый порог возможностей.

Ситуация обостряет дискуссию о балансе между открытостью и безопасностью. Сообществу нужно либо замедлить публикацию мощных моделей до внедрения адекватной защиты, либо смириться с растущими рисками, которые могут привести к жёсткому регулированию. Отчёт по GLM-5.2 - сигнал, что разрыв между возможностями и безопасностью открытых ИИ стал критическим.