Google свернул ИИ-инструмент для создания изображений в Google Earth через день после запуска
Экспериментальная функция, позволявшая генерировать ИИ-изображения поверх реальных карт, была отключена после волны критики о рисках дезинформации.
Google быстро отключил экспериментальную функцию ИИ в Google Earth вскоре после ее запуска. Инструмент давал возможность генерировать изображения и накладывать их на спутниковые карты. По данным некоторых изданий, это вызвало критику: эксперты и пользователи указали на риски, связанные с дезинформацией. Возможности для злоупотребления выглядели очевидными - можно было создавать визуально правдоподобные изображения несуществующих объектов в реальных местах.
Функцию представили как эксперимент, но связанные с ней риски, по-видимому, не были в полной мере учтены. Инструмент предоставлял механизм для создания контекстуальных фальсификаций, которые было бы трудно отличить от реальных снимков. Это могло превратить Google Earth из инструмента для изучения мира в платформу для симуляции альтернативной реальности.
Данный случай иллюстрирует противоречие между быстрым развитием генеративных технологий и ответственностью крупных технологических компаний. Google активно внедряет ИИ в свои продукты, но даже, на первый взгляд, безобидные креативные инструменты в области картографии могут нести системные риски. Ситуация демонстрирует растущую чувствительность как публики, так и экспертов к потенциальным угрозам, которые ИИ представляет для сфер, связанных с информацией о реальном мире - таких как картография, новости или исторические данные. Компании, вероятно, столкнутся с необходимостью пересмотреть практику запуска подобных функций в режиме, который можно охарактеризовать как "посмотрим, что получится".
Для отрасли этот инцидент может стать сигналом. Он способен повлиять на разработку и выпуск новых функций ИИ, связанных с геоданными и визуальным контентом. Вероятно, последуют более строгие внутренние проверки, более длительные этапы тестирования с привлечением специалистов по безопасности и этике, а также более осторожный подход к релизам экспериментальных возможностей. Инцидент также подчеркивает роль общественного давления как фактора, способного заставить крупные корпорации оперативно корректировать свои решения. В долгосрочной перспективе это может способствовать более сдержанному подходу к интеграции генеративного ИИ в инфраструктуры, критически важные для распространения знаний, и стимулировать дискуссии о возможном регулировании со стороны государственных органов.
