Эксперты предупреждают о критической уязвимости в системах с большими языковыми моделями, использующими скиллы. Вредоносные инструкции могут заставить модель выполнить опасные действия, так…
Традиционный ред-тиминг оказался слеп к новым типам атак на AI-агентов, таким как Confused Deputy и Agentic DoS, что требует пересмотра подходов к…
Компания OpenAI временно ограничила глобальный доступ к своей новейшей модели GPT-5.6 после запроса правительства США, но заявила, что подобные ограничения не должны…
Практический опыт создания MCP-сервера для AI-агентов на Spring Boot смещает фокус с магии LLM на реальные проблемы продакшена: безопасность, права, логирование и…
Популярные рекомендации по установке сторонних скилов для расширения функционала ИИ-ассистентов скрывают реальную угрозу безопасности. Вредоносные модули могут получить доступ к почте, заметкам…
Исследование показало, что разнообразные методы взлома языковых моделей, такие как GCG и AutoDAN, нацелены на единый внутренний вектор отказа, ставя под сомнение…
Генеративный ИИ позволяет за вечер создать оболочку приложения, но за красивым интерфейсом часто скрываются фатальные уязвимости и нерабочий код, что дискредитирует реальную…
Компания OpenAI представила для ChatGPT новый режим Lockdown Mode, который отключает веб-доступ и расширенные функции, чтобы усложнить кражу данных через prompt injection-атаки.
