Массовое внедрение ИИ-ассистентов сравнивают с наркотической зависимостью: краткосрочный экономический эффект заставляет компании встраивать ИИ повсеместно, но это ведет к опасной долгосрочной зависимости…
Новая атака prompt injection скрыла вредоносную инструкцию внутри изображения, обойдя базовые защиты и вызвав утечку конфиденциальных данных, что вскрыло фундаментальные уязвимости мультимодальных…
Эксперты предупреждают о критической уязвимости в системах с большими языковыми моделями, использующими скиллы. Вредоносные инструкции могут заставить модель выполнить опасные действия, так…
Компания OpenAI представила для ChatGPT новый режим Lockdown Mode, который отключает веб-доступ и расширенные функции, чтобы усложнить кражу данных через prompt injection-атаки.
Компания OpenAI представила новый режим безопасности Lockdown Mode для ChatGPT, предназначенный для защиты конфиденциальных данных от утечек через prompt injection атаки.
