ИИ в науке может привести к потоку низкокачественных статей, предупреждает исследование
Теоретическое моделирование показывает, что внедрение языковых моделей ИИ в научный процесс может парадоксальным образом снизить качество публикаций, стимулируя ученых запускать больше проектов вместо улучшения текущих работ.
Языковые модели ИИ могут ухудшить качество науки, спровоцировав поток менее значимых публикаций. К такому выводу пришло теоретическое исследование, смоделировавшее влияние ИИ на поведение ученых. Проблема не в ошибках моделей, а в изменении приоритетов исследователей. Даже идеально работающий ИИ способен навредить.
Модель показала, как экономия времени на рутинных задачах влияет на продуктивность. Сэкономленное время становится ценным ресурсом. Ученые склонны вкладывать его не в улучшение текущих работ, а в запуск новых проектов. Это увеличивает общее число публикаций, но снижает качество каждой. В двух из трех смоделированных сценариев качество отдельных статей падало.
Эффект возникает из-за логики научной системы, где карьера и финансирование зависят от количества публикаций. ИИ становится катализатором, ускоряющим эту тенденцию. Он снижает барьер для производства текста и анализа, что ведет к инфляции научного контента. Ученые с мощным инструментом для ускорения работы выбирают между углублением в одно исследование или охватом нескольких. В конкурентной среде часто побеждает второй вариант.
Для научного сообщества и издателей это означает рост формально корректных, но малозначимых статей. Рецензентам и редакторам придется отфильтровывать возросший объем публикаций. Возникает этическая дилемма: как использовать инструменты повышения эффективности для углубления знаний, а не для наращивания метрик. Потребуется пересмотр систем оценки - смещение акцента с количества на качество и реальное влияние работы.
Исследование предостерегает от бездумного технологического оптимизма. Инструменты не определяют результат - решающую роль играют институциональные стимулы и человеческие решения. Будущее науки с ИИ зависит от того, сумеет ли сообщество создать среду, где сэкономленное время будет вкладываться в глубокий анализ, проверки и синтез, а не в гонку за количеством. Без изменений публиковать станет проще, а находить значимые открытия - сложнее.
