Нейросети

Как создать нейросеть с помощью нейросети?

Екатерина, Челябинск 1,3 тыс. просм.

Хочу сделать небольшую нейросеть для своего проекта, но программирую слабо. Слышала, что ChatGPT или Copilot могут написать за меня почти весь код. Насколько это безопасно и на что обратить внимание, если буду делать так?

Сергей Орлов специалист по ИИ-безопасности

ответил

эксперт

Использовать один ИИ-инструмент, чтобы написать код для другой нейросети, — рабочий подход, им сейчас пользуются даже опытные инженеры. ChatGPT или Copilot неплохо справляются с типовым кодом: загрузкой данных, циклом обучения, простой архитектурой сети. Но есть несколько мест, где стоит быть внимательнее.

Первое — не отправляйте в чат реальные данные проекта, если они содержат что-то чувствительное: персональные данные пользователей, внутренние документы компании, коммерческую информацию. Для объяснения задачи достаточно обезличенного примера или синтетических данных.

Второе — сгенерированный код нужно проверять, а не запускать вслепую. Модель может предложить устаревшую версию библиотеки, забыть про нормализацию данных или написать код с уязвимостью, если он будет обрабатывать внешние запросы. Как минимум прогоните код через линтер и почитайте построчно, что он делает.

Третье — если итоговая нейросеть будет обучаться на ваших данных или данных пользователей, проверьте, куда эти данные уходят на этапе разработки: некоторые готовые библиотеки по умолчанию отправляют телеметрию или логи на сторонние серверы.

В остальном это нормальный способ быстро стартовать: ИИ здесь помощник в написании кода, а не замена понимания того, что этот код делает.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме