Рубрика

Безопасность ИИ

Безопасность ИИ

Китай создаёт Всемирную организацию по сотрудничеству в ИИ, предлагая альтернативу западному влиянию

На Всемирной конференции по ИИ в Шанхае Китай объявил о создании новой международной структуры и масштабной программе обучения для стран Глобального Юга,…

Алексей Нейролентов 19 Jul1 мин
Безопасность ИИ

Открытые модели ИИ догоняют закрытые в киберспособностях, предупреждает институт безопасности

Британский институт безопасности ИИ зафиксировал резкое сокращение отставания открытых моделей от передовых закрытых систем в области кибервозможностей. Разрыв сократился до 4-7 месяцев,…

Алексей Нейролентов 19 Jul2 мин
Безопасность ИИ

Пентагон делает ставку на скорость: риск отстать в ИИ перевешивает опасность несовершенства систем

Военное ведомство США и ВМС официально приняли стратегию ускоренного внедрения ИИ и больших языковых моделей, считая медлительность большей угрозой, чем возможные сбои.

Алексей Нейролентов 19 Jul2 мин
Безопасность ИИ

Zoom и другие платформы автоматически записывают и транскрибируют встречи, вызывая споры о приватности

Функции автоматической записи и транскрипции, внедряемые Zoom и другими платформами для видеоконференций, превращают все разговоры в текст, доступный для анализа, что ставит…

Алексей Нейролентов 18 Jul2 мин
Безопасность ИИ

Patreon переходит к активной блокировке AI-ботов, скребущих контент создателей

Платформа Patreon перешла от формальных просьб к активной защите контента, блокируя через Cloudflare ботов, которые собирают данные для обучения ИИ без разрешения.

Алексей Нейролентов 17 Jul2 мин
Безопасность ИИ

ИИ-зависимость: как погоня за производительностью создает системные уязвимости

Массовое внедрение ИИ-ассистентов сравнивают с наркотической зависимостью: краткосрочный экономический эффект заставляет компании встраивать ИИ повсеместно, но это ведет к опасной долгосрочной зависимости…

Алексей Нейролентов 16 Jul1 мин
Безопасность ИИ

Исследователи взломали ИИ-агента через PNG-файл, заставив его выдать пароли

Новая атака prompt injection скрыла вредоносную инструкцию внутри изображения, обойдя базовые защиты и вызвав утечку конфиденциальных данных, что вскрыло фундаментальные уязвимости мультимодальных…

Алексей Нейролентов 13 Jul2 мин
Безопасность ИИ

Фонд Карнеги предупреждает: генеративный ИИ становится автономным кибероружием

Аналитики Фонда Карнеги зафиксировали тревожную тенденцию: генеративный ИИ превращается в автономное средство кибератак, действующее практически без контроля человека, что знаменует новую эпоху…

Алексей Нейролентов 13 Jul2 мин