Рубрика

Безопасность ИИ

Безопасность ИИ

Безопасный SSH для rootless-контейнеров: как защитить ключи от ИИ-агентов

Представлен метод безопасной организации SSH-доступа для rootless-контейнеров Docker, при котором приватный ключ остаётся у ssh-agent на хосте, а приложение получает лишь сокет…

Алексей Нейролентов 27 Sep2 мин
Безопасность ИИ

Парадокс объяснимости: почему мы понимаем нейросети хуже, чем мозг 60 лет назад

Новый препринт ставит под сомнение эффективность 15-летних исследований в области Explainable AI, показывая, что современные методы объяснения не делают модели по-настоящему понятными.

Алексей Нейролентов 24 Sep2 мин
Безопасность ИИ

Безопасность RAG: почему корпоративные ассистенты могут сливать конфиденциальные данные

Популярные RAG-системы для корпоративных FAQ-ботов сталкиваются с критическим упущением в безопасности - они не учитывают права доступа пользователей, что может привести к…

Алексей Нейролентов 23 Sep2 мин
Безопасность ИИ

Ложный доклад ИИ едва не спровоцировал инцидент с досмотром китайского судна ВМС США в 2026 году

Американские военные были в минутах от начала операции по досмотру китайского судна после того, как ИИ-чатбот сгенерировал ложный отчет о перевозке компонентов…

Алексей Нейролентов 19 Sep2 мин
Безопасность ИИ

Семь психологических ловушек ИИ-продуктивности: от иллюзии всемогущества до цифрового выгорания

Погоня за эффективностью с помощью искусственного интеллекта оборачивается новыми рисками для психики: эксперты выделяют семь ключевых ловушек, от потери критического мышления до…

Алексей Нейролентов 18 Sep2 мин
Безопасность ИИ

ИИ как социальный фетиш: зачем мы наделяем алгоритмы человеческими чертами и рисуем апокалипсисы

Вместо того чтобы оценивать реалистичность сценариев восстания машин или техноутопии, автор предлагает изучить социальную функцию этих нарративов - почему они возникают, кому…

Алексей Нейролентов 15 Sep2 мин
Безопасность ИИ

Microsoft публикует этический кодекс для ИИ: безопасность и контроль вместо "внутренней жизни"

Компания представила свод правил для своих моделей MAI, где главными принципами названы безопасность и человеческий контроль, а концепции искусственного сознания или прав…

Алексей Нейролентов 14 Sep2 мин
Безопасность ИИ

Индустрия ИИ снова предупреждает об экзистенциальных рисках: от гипотез к регуляциям

Ведущие компании и исследователи в области искусственного интеллекта вновь активизировали дискуссию о потенциальной экзистенциальной угрозе своих технологий, что знаменует сдвиг от абстрактных…

Алексей Нейролентов 14 Sep2 мин
Безопасность ИИ

Anthropic раскрывает злоупотребления Claude: хакеры создавали военные технологии, а китайские лаборатории добывали данные

В первом отчете о киберугрозах Anthropic сообщила, что ее ИИ-ассистент Claude использовался для разработки военного ПО и массового извлечения обучающих данных китайскими…

Алексей Нейролентов 11 Sep2 мин