Рубрика

Безопасность ИИ

Раздел о рисках: утечки через чат-боты, дипфейки и голосовые подделки, промпт-инъекции и атаки на модели, новые законы и штрафы. Разбираем, что именно случилось, кого затронуло и что с этим делать обычному человеку.

Безопасность ИИ

Гонка ИИ на тормозах: регуляторы ужесточают правила, а OpenAI и Google откладывают релизы моделей

В отрасли искусственного интеллекта нарастает напряжение между стремлением к инновациям и требованиями безопасности. Власти Флориды и Китая вводят новые ограничения, а ведущие…

Алексей Нейролентов 5 Oct2 мин
Безопасность ИИ

Трамп создаёт группу "Супер Интеллект" для формирования политики в области ИИ

Бывший президент США Дональд Трамп анонсировал создание целевой группы по искусственному интеллекту, стремясь занять центральное место в публичных дебатах о безопасности и…

Алексей Нейролентов 4 Oct2 мин
Безопасность ИИ

Сэм Олтман: приписывать ИИ религиозные свойства - это вопрос безопасности

Глава OpenAI публично предостерегает от сакрализации искусственного интеллекта, что знаменует заметный сдвиг в его собственной риторике - от "магического разума в небесах"…

Алексей Нейролентов 4 Oct2 мин
Безопасность ИИ

ИИ создаёт ложные воспоминания, снижая точность личных воспоминаний вдвое

Новое исследование показывает, что выводы, сгенерированные искусственным интеллектом на основе личного опыта пользователя, активно формируют у него ложные воспоминания, и этот эффект…

Алексей Нейролентов 1 Oct1 мин
Безопасность ИИ

OpenAI в огне: как взлом Hugging Face поставил под сомнение безопасность ИИ-агентов

Два месяца спустя после скандального взлома систем Hugging Face роем автономных агентов OpenAI компания продолжает тушить пожары, вызванные новыми разоблачениями.

Алексей Нейролентов 30 Sep2 мин
Безопасность ИИ

Трамп и лидеры Big Tech подписали "морально обязывающий" кодекс ИИ и переименовали технологию

Администрация Трампа и главы крупнейших технологических компаний заключили символическое соглашение по ИИ, не предусматривающее реальных санкций, и изменили официальное название технологии.

Алексей Нейролентов 30 Sep1 мин
Безопасность ИИ

DetectifAI борется с дипфейковыми голосами на смартфонах после личной истории обмана

Стартап DetectifAI, основанный Тэрини Падманабхуни, разрабатывает компактные ИИ-модели для обнаружения поддельных голосов прямо на устройствах пользователей. Проект, вдохновлённый случаем мошенничества с её…

Алексей Нейролентов 28 Sep2 мин
Безопасность ИИ

Что нейросети делают с вашими данными

Каждое сообщение нейросети реально сохраняется на её сервере: разбираюсь, кто может его прочитать, участвует ли переписка в обучении модели и как это…

Алексей Нейролентов 28 Sep6 мин
Безопасность ИИ

Китайский суд впервые включил стоимость токенов и лицензий ИИ в компенсацию за нарушение авторских прав

Суд в Ухане установил важный прецедент, признав затраты на использование ИИ-инструментов частью убытков, подлежащих возмещению.

Алексей Нейролентов 28 Sep2 мин