Открытые модели ИИ догоняют закрытые в киберспособностях, предупреждает институт безопасности
Британский институт безопасности ИИ зафиксировал резкое сокращение отставания открытых моделей от передовых закрытых систем в области кибервозможностей. Разрыв сократился до 4-7 месяцев, а встроенные меры безопасности в открытых моделях оказались неэффективными, что снижает порог для злоупотреблений.
Британский институт безопасности ИИ сообщает о быстром сокращении разрыва в киберспособностях между открытыми и передовыми закрытыми моделями. По данным отчета, современные открытые модели отстают от лидеров всего на четыре месяца. В начале 2025 года этот разрыв составлял до десяти месяцев, что указывает на ускорение развития. Мощные инструменты, ранее доступные лишь узкому кругу, теперь может развернуть практически любой. Это меняет ландшафт киберугроз.
Отчет подпитывает давнюю дискуссию о балансе открытости и безопасности. Институт отмечает обратную сторону: оптимизация моделей резко снизила их вычислительные требования. Теперь для запуска продвинутых систем не нужны огромные GPU-кластеры, что делает их доступными для злоумышленников с ограниченными ресурсами. Критический вывод: встроенные в открытые модели меры безопасности в значительной степени неэффективны. Их относительно легко обойти, что подрывает аргумент о контролируемом распространении.
Для кибербезопасности это означает резкое сокращение времени на подготовку. Если раньше у защитников был почти год на анализ возможностей закрытых моделей, то теперь буфер - несколько месяцев. Злоумышленники могут быстро адаптировать открытые модели для автоматизации фишинга, поиска уязвимостей или генерации вредоносного ПО. Снижение порога входа позволяет менее квалифицированным акторам заняться киберпреступностью, что потенциально увеличит масштаб и частоту атак. Технологии, призванные ускорить прогресс, одновременно ускоряют и эволюцию угроз.
Пользователям, от рядовых сотрудников до ИТ-администраторов, важно понимать: традиционные методы защиты, основанные на сигнатурах и известных шаблонах, становятся менее эффективными. Противник может использовать ИИ для создания уникального, меняющегося вредоносного контента. Возрастает важность поведенческого анализа, многофакторной аутентификации и модели нулевого доверия.
Для разработчиков открытых моделей отчет - прямой призыв к действию. Необходимо пересмотреть подходы к безопасности на этапе проектирования и обучения, возможно, создавая более устойчивые к взлому системы. Ожидается, что выводы подстегнут дебаты о регулировании и могут привести к новым стандартам для публикации мощных открытых моделей, особенно с учетом прогноза института о дальнейшем сокращении разрыва к 2026 году. Индустрия стоит перед выбором: как сохранить преимущества открытых инноваций, не ставя под угрозу цифровую безопасность.
