Нейросети

Как безопасно подключить нейросеть к своим рабочим данным?

Татьяна, Нижний Новгород 256 просм.

У нас в отделе хотят подключить нейросеть к рабочим таблицам, чтобы она сама составляла отчеты по данным клиентов. Мне кажется, это рискованно, но объяснить конкретно почему я не могу. Как вообще правильно подключать нейросеть к рабочим системам, чтобы не слить лишнего?

Сергей Орлов специалист по ИИ-безопасности

ответил

эксперт

Подключение обычно идет через API: вы получаете ключ доступа от сервиса нейросети, вставляете его в скрипт или готовый коннектор, и дальше данные из таблицы или CRM автоматически уходят в модель и возвращаются обработанными. Технически это несколько строк кода или пара кликов в готовом инструменте, а риски прячутся в деталях, которые на старте никто не проверяет.

Три вещи, которые стоит закрыть до подключения:

  • Куда физически уходят данные. Часть моделей по умолчанию использует запросы пользователей для дальнейшего обучения, если явно не отключить эту опцию в настройках аккаунта.
  • Какой объем данных реально нужен модели. Если для отчета достаточно агрегированных цифр, не отправляйте туда полные карточки клиентов с именами и телефонами.
  • Кто в компании имеет доступ к самому ключу API. Ключ, зашитый в общий файл или чат, рано или поздно утечет, а по нему можно наделать запросов на крупную сумму или вытащить историю переписки, если модель ее сохраняет.

Разумная схема для отчетов по клиентам: заранее обезличить данные, заменить имена и телефоны на условные ID, отправлять в нейросеть только обезличенный массив, а сопоставление с реальными клиентами делать уже на своей стороне после получения ответа. Так даже при утечке ключа или логов сервиса наружу уйдут не персональные данные, а бессмысленный набор цифр.

Отдельно проверьте, попадает ли выбранный сервис под требования 152-ФЗ о хранении персональных данных россиян на территории страны. Для зарубежных моделей общего назначения это частый пробел, который стоит закрыть именно на этапе обезличивания, а не понадеявшись на договор с вендором.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме