Безопасность ИИ
Apple подала иск к OpenAI, обвиняя в краже коммерческой тайны
Apple обвиняет OpenAI и её высшее руководство в организации кражи коммерческой тайны через бывшего сотрудника Apple, что может привести к серьёзным судебным…
Безопасность ИИ
Безопасность ИИ
ИИ-агент в песочнице добывает реальные данные для борьбы с вредоносным ПО
Эксперимент показал, что связка LLM-агента и изолированной среды с классическими инструментами анализа способна не просто генерировать отчеты, а извлекать конкретные индикаторы компрометации…
Безопасность ИИ
Google применила детектор дипфейков для разоблачения фейкового изображения сенатора Макконнелла
Технологический гигант Google использовал собственную систему SynthID для идентификации и публичного разоблачения AI-изображения, фальшиво изображавшего сенатора США Митча Макконнелла в больнице, что…
Безопасность ИИ
ИИ как стратегическое оружие: США и Китай начинают взаимные блокировки моделей
Пекин и Вашингтон переходят от ограничений на чипы к прямым блокировкам готовых ИИ-моделей, признавая их критически важным активом и разворачивая политику "цифрового…
Безопасность ИИ
AI-агенты в кибербезопасности: 18 реальных аудитов показали ускорение рутины, но не отмену эксперта
Практическое исследование на основе 18 реальных аудитов показало, что AI-агенты уже способны значительно ускорить рутинные задачи кибербезопасности, такие как анализ логов и…
Безопасность ИИ
Карта грантов и фондов по AI safety обновлена на лето-осень 2026
Актуализированная карта грантов, фондов и программ для финансирования исследований в области безопасности ИИ поможет специалистам системно находить источники поддержки в быстро меняющейся…
Безопасность ИИ
Prompt-injection-атаки через скиллы: новая угроза безопасности для LLM-систем
Эксперты предупреждают о критической уязвимости в системах с большими языковыми моделями, использующими скиллы. Вредоносные инструкции могут заставить модель выполнить опасные действия, так…
Безопасность ИИ
СверхИИ и будущее человечества: от уничтожения до цифровой диаспоры
Размышления о сверхИИ часто сводятся к вопросу физического уничтожения человечества, но автор предлагает рассмотреть более широкий спектр сценариев, где люди остаются живы…
Безопасность ИИ
Исследование выявило три новых класса критических уязвимостей в AI-агентах
Традиционный ред-тиминг оказался слеп к новым типам атак на AI-агентов, таким как Confused Deputy и Agentic DoS, что требует пересмотра подходов к…