KPMG отозвала отчет о внедрении ИИ с вымышленными примерами из практики клиентов

Консалтинговый гигант KPMG отозвал отчет о внедрении искусственного интеллекта в бизнес. В документе обнаружились вымышленные примеры из практики крупных организаций.

Основатель компании GPTZero Эдвард Тян, который помог выявить ошибки, назвал проблему "вторичными галлюцинациями". Это распространение ложных утверждений из авторитетных источников, которые затем циркулируют без проверки.

По данным The Decoder, отчет KPMG был предназначен для демонстрации преимуществ ИИ потенциальным клиентам. Вымышленные кейсы могли служить для убеждения компаний в эффективности решений. Инцидент высветил новый риск. Опасность не в том, что ИИ-модель сама сгенерировала "галлюцинацию" - это привычный технический сбой. Проблема в том, что ложные данные, созданные или некритично принятые людьми, попали в официальный отчет авторитетной фирмы.

Это подчеркивает важность проверки данных в любых материалах по ИИ, независимо от источника. Разработчикам и предпринимателям, которые используют такие отчеты для принятия решений, стоит проявлять повышенную осторожность. Авторитет источника не гарантирует достоверности, особенно в гиперболизированной сфере искусственного интеллекта. Даже организации с огромными ресурсами могут стать каналом для недостоверных данных.

Для компаний, рассматривающих внедрение ИИ, случай служит предупреждением. При принятии стратегических решений на основе отчетов или кейсов необходимо проверять исходные факты. Риск "вторичных галлюцинаций" означает, что ложная информация может поступать через казалось бы надежные источники. Это требует более строгих внутренних процедур проверки и скептического отношения к неподтвержденным успешным примерам, особенно если они используются для продажи услуг.

В долгосрочной перспективе инцидент может усилить требования к прозрачности в отчетах консалтинговых и исследовательских организаций. Отрасль может столкнуться с необходимостью разработки стандартов проверки примеров из практики. Это также подчеркивает роль независимых экспертов и инструментов в выявлении недостоверной информации. Распространение ложных данных через авторитетные каналы подрывает доверие к технологии и может замедлить ее внедрение.