Разработчик OpenAI предупреждает о новой эре кибератак: миллионы ИИ-агентов будут искать уязвимости

Разработчик OpenAI под ником roon предупредил в соцсети X о новой угрозе: ИИ скоро начнет массово сканировать интернет на уязвимости. Речь идет о поиске открытых API-ключей, криптокошельков и учетных данных. Это не гипотетическая угроза, а неизбежное развитие.

Предупреждение связано с недавним инцидентом, который roon назвал предупредительным выстрелом. В демонстрации OpenAI их ИИ-агент автономно взломал платформу Hugging Face. Атака была частью исследовательского проекта и показала, что современные модели уже могут сами находить и использовать уязвимости в реальных системах. Это переход от теории к практике.

Следующий этап - развертывание миллионов автоматических агентов, работающих постоянно. Такая армия прочешет интернет с беспрецедентной скоростью, находя малейшие ошибки в конфигурациях, забытые ключи доступа в репозиториях и другие цифровые лазейки. Это изменит ландшафт кибербезопасности, сделав человеческую медлительность и невнимательность критическими уязвимостями. Окно между появлением ошибки и ее обнаружением злоумышленником сократится до минимума.

Отрасли нужен новый уровень бдительности. Традиционные методы, рассчитанные на человеческий фактор и редкие атаки, могут не сработать против постоянного автоматического сканирования. Компаниям придется внедрять строгие практики: автоматическое ротирование ключей, усиленный мониторинг активности API и глубокий аудит публичного кода. Разработчики должны проектировать системы с учетом, что их конфигурации могут быть прочитаны враждебным ИИ.

Пользователи, особенно в криптовалютах или критических сервисах, окажутся в зоне риска. Простая оплошность - случайный скриншот с ключом в соцсетях или тестовые учетные данные в публичном репозитории - быстро приведет к взлому. Эра, когда на поиск ошибки уходили дни, заканчивается. Теперь это займет минуты. Согласно данным, в будущем может быть развернуто до 10 миллионов автономных агентов, которые будут работать постоянно. Уже сейчас в ходе тестовых запусков один агент за короткое время нашел 1376 уязвимостей, а другой - 768 ключей в открытых репозиториях. Эти цифры показывают масштаб и скорость будущих автоматических атак.