LLM

Как правильно и безопасно пользоваться ChatGPT?

Николай, Казань 258 просм.

Начал активно использовать ChatGPT для работы с документами и перепиской, но коллега напугал историями про утечки данных через такие сервисы. Как пользоваться этим безопасно и на что обращать внимание?

Сергей Орлов специалист по ИИ-безопасности

ответил

эксперт

Основной риск не в самом факте использования ChatGPT, а в том, что именно туда вводят. Введенный текст может использоваться для дальнейшего обучения моделей, если явно не отключить это в настройках, поэтому первое правило простое: никогда не вставляйте в диалог реальные персональные данные, номера договоров, пароли, коммерческую тайну работодателя или чужую переписку без обезличивания.

Практические шаги:

  • в настройках аккаунта отключите использование истории чатов для обучения моделей, эта опция есть в разделе Data Controls;
  • перед вставкой документа замените реальные имена, суммы и названия компаний на условные, если суть задачи от этого не меняется;
  • для рабочих задач с чувствительными данными узнайте у работодателя, разрешено ли вообще использование внешних ИИ-сервисов — во многих компаниях это регулируется отдельной политикой.

Отдельная тема — доверие к содержанию ответов. ChatGPT не проверяет факты, а генерирует правдоподобный текст, поэтому цифры, даты, ссылки на законы и цитаты из ответов обязательно нужно перепроверять по первоисточнику, особенно если результат пойдет дальше в документ или клиенту.

Для медицинских, юридических и финансовых решений с реальными последствиями относитесь к ChatGPT как к черновику для консультации со специалистом, а не как к замене этой консультации. Модель хорошо помогает сформулировать вопросы к врачу или юристу заранее, но окончательное решение по таким вопросам ей доверять не стоит.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме