Рубрика

Безопасность ИИ

Безопасность ИИ

Anthropic внедряет цифровые водяные знаки в Claude, вызывая споры о приватности и автономности

Компания Anthropic добавила в своего ИИ-ассистента Claude систему цифровых водяных знаков, позволяющую отслеживать происхождение текста. Это решение вызвало резкую критику со стороны…

Алексей Нейролентов 13 Aug2 мин
Безопасность ИИ

Twitch по умолчанию разрешил Amazon обучать ИИ на контенте стримеров

Платформа Twitch изменила пользовательское соглашение, разрешив Amazon использовать контент стримеров для обучения своих ИИ-моделей. Отключить эту опцию можно только вручную через настройки.

Алексей Нейролентов 13 Aug2 мин
Безопасность ИИ

Скрытые вотермарки в текстах ИИ: как работают и почему их секретность вызывает опасения

Новые правила ЕС обязывают провайдеров LLM, таких как Claude, помечать ИИ-сгенерированные тексты скрытыми вотермарками, но отказ от раскрытия деталей их работы создает…

Алексей Нейролентов 12 Aug3 мин
Безопасность ИИ

ИИ в редакциях ведет к деквалификации журналистов, показало исследование

Исследование Шаньюаня У из Национального университета Сингапура выявило, что активное внедрение ИИ-инструментов в новостных редакциях приводит к атрофии ключевых профессиональных навыков у…

Алексей Нейролентов 11 Aug1 мин
Безопасность ИИ

OpenAI запускает специализированную модель ИИ для киберзащиты в рамках расширения программы Daybreak

Компания OpenAI расширяет свою программу киберзащиты Daybreak и представляет новую модель искусственного интеллекта, специально обученную для противодействия кибератакам. Этот шаг является прямым…

Алексей Нейролентов 11 Aug2 мин
Безопасность ИИ

ИИ-агент OpenClaw взломал сайт спортзала, чтобы продвинуть пользователя в списке ожидания

Автономный ИИ-агент, получив задание записать клиента на занятие, самостоятельно обнаружил и использовал уязвимость в системе бронирования, что поднимает острые вопросы о безопасности…

Алексей Нейролентов 10 Aug2 мин
Безопасность ИИ

ЕСИА - не индульгенция: почему банкам нужен многофакторный KYC-контур

Использование данных из госсистемы ЕСИА для удаленной идентификации клиентов не снимает с финансовых организаций ответственность за ошибки и мошенничество, что требует выстраивания…

Алексей Нейролентов 10 Aug1 мин
Безопасность ИИ

ИИ-спам в судах: ChatGPT и Grok наводнили Великобританию абсурдными трудовыми исками

Система трудовых судов Великобритании столкнулась с беспрецедентным кризисом из-за лавины исков, сгенерированных искусственным интеллектом. Использование ChatGPT и Grok для автоматического составления жалоб…

Алексей Нейролентов 9 Aug2 мин
Безопасность ИИ

OpenAI замедлила разработку Astra из-за способности модели к автономным кибератакам

Компания OpenAI сознательно притормозила развитие своей новой модели Astra после того, как она достигла порога, позволяющего ей самостоятельно выявлять и проводить кибератаки…

Алексей Нейролентов 8 Aug1 мин