Что нейросети делают с вашими данными

Нейросеть - это сервис на чужом сервере, и всё, что вы ей пишете, физически оседает где-то на этом сервере: переписка с чат-ботом устроена примерно так же, как переписка в мессенджере, только на другом конце не человек, а компания. Вопрос не в том, видит ли нейросеть ваши данные - конечно видит, иначе не смогла бы ответить. Вопрос в том, что происходит с этими данными дальше: кто их читает, сколько они хранятся и участвуют ли в обучении следующей версии модели.

Дальше по пунктам, от простого к сложному: что уходит на сервер прямо сейчас, что остаётся там надолго, и где начинаются настоящие риски, а не просто неприятное чувство, что за вами кто-то подглядывает.

Что происходит с сообщением после того, как вы нажали "отправить"

Представьте, что вы звоните в поддержку банка и диктуете оператору вопрос. Оператор не запоминает его наизусть - он печатает в свою систему, и запись остаётся там: с датой, с вашим номером, иногда с пометкой "клиент интересовался тем-то". С нейросетью то же самое, только вместо оператора - сервер, а вместо записи в CRM - строчка в базе диалогов, привязанная к вашему аккаунту или хотя бы к устройству.

Сообщение уходит на сервер, там его обрабатывает модель, формируется ответ, и копия всего разговора обычно остаётся в истории чата - именно поэтому вы можете открыть старую переписку через неделю и продолжить с того же места. Это не побочный эффект, а нужная функция: без сохранённой истории нейросеть не помнила бы контекст разговора дольше одного сообщения.

Учится ли модель на вашей переписке

Здесь начинается то, что людей волнует больше всего. У большинства крупных сервисов есть настройка - обычно она называется что-то вроде "улучшать модель на основе моих данных" - и по умолчанию она чаще всего включена. Это значит, что часть переписки может использоваться, чтобы дообучать будущие версии модели или проверять качество её ответов, иногда с участием живых людей-модераторов, которые читают отдельные фрагменты диалогов при разборе жалоб и ошибок.

Платные и корпоративные тарифы у многих сервисов эту настройку по умолчанию выключают или дают явный переключатель в профиле - компании понимают, что бизнес не будет заводить рабочую переписку туда, где её может прочитать кто-то посторонний. У бесплатных тарифов ситуация обычно противоположная: сервису выгоднее получить данные для обучения в обмен на бесплатный доступ. Если хотите сравнить, как разные сервисы на практике обращаются с пользователями бесплатных тарифов, у меня есть отдельная подборка про бесплатные нейросети, которые реально работают без оплаты и VPN - в ней видно, у кого лимиты жёстче и что каждый сервис просит взамен.

Фото, голос и документы - самое чувствительное, что можно загрузить

Текстовое сообщение почти всегда безопаснее, чем файл. Когда вы просите нейросеть распознать текст на фотографии паспорта, расшифровать голосовое сообщение или обработать скан договора, вы отдаёте не абстрактные "данные", а конкретные вещи: номер документа, ваш голос, чужую подпись на бумаге, которую вы даже не имели права никуда пересылать.

Голос и лицо особенно уязвимы, потому что их можно использовать повторно. Достаточно нескольких секунд чистой записи голоса, чтобы синтезировать похожую речь, а обученные на реальных лицах модели уже применяются для генерации дипфейк-видео, которые всё труднее отличить от настоящей съёмки. Это не значит, что каждая нейросеть ворует ваше лицо и продаёт мошенникам - но правило простое: чем чувствительнее файл, тем осторожнее стоит быть с тем, куда вы его загружаете и зачем.

Что говорит закон

В России сбор и обработку персональных данных регулирует отдельный закон - 152-ФЗ, и формально он касается любой компании, которая работает с данными российских пользователей, включая разработчиков нейросетей. На практике закон писали задолго до появления языковых моделей, поэтому конкретно под ИИ он ложится не идеально: непонятно, например, как быть с данными, которые попали в обучающую выборку модели, а не хранятся в отдельной карточке пользователя.

Отдельное регулирование именно для искусственного интеллекта сейчас на стадии разработки, причём не только в России. Какие нормы обсуждают и что из этого может дойти до реальных законов, я разбирал отдельно в статье про регулирование искусственного интеллекта в России и мире. Пока эти нормы не приняты, основная защита - не закон, а здравый смысл и настройки конкретного сервиса.

Чему верить в пользовательских соглашениях

Пользовательское соглашение почти любой нейросети обещает шифрование при передаче данных, ограниченный доступ сотрудников и удаление данных по запросу. Это не пустые слова - крупные компании действительно вкладываются в защиту серверов, потому что утечка бьёт по репутации сильнее, чем любой штраф. Но соглашение - это документ о намерениях компании, а не гарантия того, что взлома или ошибки никогда не случится: истории с утечками данных случались у сервисов самого разного масштаба, и нейросети тут не исключение.

Отдельно стоит смотреть на то, в какой стране зарегистрирована компания и, соответственно, чьи законы на неё распространяются. Это не значит, что зарубежный сервис хуже - но политика в духе "мы можем передать данные партнёрам для улучшения качества сервиса" звучит расплывчато у всех, и разбираться, что именно она означает на практике, обычно приходится вам самим.

Частые заблуждения

Если я откажусь от обработки данных, нейросеть меня не запомнит. Отказ от согласия чаще всего просто закрывает доступ к сервису - без него вы не сможете даже зарегистрироваться. Реальный контроль - это не согласие или отказ на входе, а отдельные настройки истории и обучения внутри профиля, если они вообще предусмотрены.

Приватный режим в браузере скрывает переписку от компании. Режим инкогнито прячет историю от других людей, которые пользуются тем же компьютером, но никак не влияет на то, что видит сервер. Сообщение всё равно уходит на сторону компании и сохраняется там же, где сохранилось бы в обычном окне браузера.

Бесплатные нейросети опаснее платных по определению. Чаще так и есть, но не всегда: у некоторых платных сервисов настройка отключения обучения на переписке спрятана глубоко в профиле и включена по умолчанию точно так же, как у бесплатных. Платный тариф - это повод проверить настройки, а не повод перестать их проверять.

Если удалить переписку, данные пропадают сразу. Из истории чата сообщение действительно исчезает, но резервные копии на серверах компании обычно живут дольше и чистятся по своему расписанию, а не по нажатию кнопки. Если сообщение уже попало в обучающую выборку до удаления, откатить этот процесс для одной переписки почти невозможно.

Что реально стоит сделать

Проверьте в настройках профиля, есть ли переключатель использования переписки для обучения модели, и выключите его, если он не нужен вам сам по себе. Обычно эта настройка прячется в разделе конфиденциальности или данных, а не в основном меню.

Не загружайте в чат сканы паспорта, СНИЛС, банковских карт и договоров с чужими подписями - для распознавания текста на таких документах есть отдельные защищённые сервисы, а не публичный чат-бот. Голосовые сообщения с личной информацией лучше тоже не диктовать нейросети, если не уверены, зачем именно ей нужна именно эта запись.

Заводите отдельную почту для регистрации в новых сервисах, особенно небольших и малоизвестных - это не паранойя, а обычная гигиена, которая работает точно так же, как с любой другой регистрацией в интернете.

Относитесь к переписке с нейросетью так же, как к письму в поддержку случайного сервиса: пишите то, что не страшно увидеть в чужих руках, и не пишите то, что не хотели бы увидеть в открытом доступе. Остальные материалы про риски и защиту в теме ИИ собраны в архиве рубрики про безопасность ИИ.