Сэм Олтман: приписывать ИИ религиозные свойства - это вопрос безопасности
Глава OpenAI публично предостерегает от сакрализации искусственного интеллекта, что знаменует заметный сдвиг в его собственной риторике - от "магического разума в небесах" к прагматичным предупреждениям.
Генеральный директор OpenAI Сэм Олтман публично предостерег от приписывания ИИ религиозных свойств, назвав это реальной проблемой безопасности. По данным The Decoder, это резкий разворот в его риторике. Еще в 2024 году он говорил о создании "магического разума в небесах". Теперь его тон стал осторожным и прагматичным.
Поводом для такого заявления, вероятно, стали сообщения о встречах лаборатории Anthropic с религиозными мыслителями. Олтман реагирует на растущую тенденцию сакрализации технологии. Он подчеркивает, что восприятие ИИ как божества или пророка не только вводит в заблуждение, но и создает конкретные угрозы. Слепое доверие к системе ослабляет критическую оценку ее выводов, ошибок или злонамеренного использования.
Этот сигнал важен для всей отрасли. Разработчикам он напоминает о серьезной ответственности. Язык в маркетинге и документации должен быть точным, без мистификаций. Предпринимателям стоит преподносить ИИ клиентам и сотрудникам как мощный, но ограниченный инструмент с известными недостатками. Даже иллюстрация к исходной статье в The Decoder (1672x941 пикселей) обыгрывает тему "святости" OpenAI, показывая, как легко возникает такой нарратив.
Сдвиг в риторике Олтмана может означать начало фазы демистификации ИИ. После периода головокружительных успехов индустрия, возможно, вступает в этап более зрелого обсуждения, где на первый план выходят безопасность и этика. Акцент смещается с разговоров о сверхъестественном интеллекте на практические задачи: как сделать модели надежными и предотвратить их вредоносное применение.
Согласно информации The Decoder, внутренний документ OpenAI под кодовым названием "Проект 039" описывает прагматичный план развития до 2026 года. Вместо погони за "магией" компания, судя по всему, фокусируется на создании полезных и безопасных инструментов. Этот подход может быть частью более широкого отраслевого тренда.
Предупреждение Олтмана - это призыв к трезвости. Искусственный интеллект остается продуктом инженерной мысли, набором алгоритмов, обученных на данных. Приписывание ему религиозного статуса искажает его природу и создает риски. Будущее отрасли зависит от способности обсуждать ИИ на языке фактов, возможностей и конкретных рисков, а не на языке чудес. Этот прагматичный поворот, подкрепленный внутренними планами вроде "Проекта 039", может помочь построить более прочные и реалистичные отношения между технологией и обществом.
