Математики Гоуэрс и Сарнак о LLM: мощные калькуляторы, но слабые творцы
Ведущие математики Тимоти Гоуэрс и Питер Сарнак высказали скептическую оценку способности больших языковых моделей к фундаментальному научному творчеству, отметив их силу в комбинировании известных методов и слабость в интуитивном прорыве.
В дискуссии о будущем ИИ в науке ключевой вопрос - способны ли большие языковые модели генерировать принципиально новые идеи? Математики Тимоти Гоуэрс и Питер Сарнак дали скептический ответ. Они считают, что LLM - это мощные и быстрые калькуляторы, которые умеют комбинировать известные методы. Но для творческой работы, требующей интуиции и озарения, у них нет нужных качеств. Эта оценка ставит под сомнение возможность фундаментальных открытий с помощью текущих архитектур ИИ, выходящих за рамки перекомпоновки существующего знания.
Гоуэрс и Сарнак разделяют вычислительную мощь и творческое мышление. LLM обучены на огромных массивах текстов и научных работ. Они распознают паттерны, логические связи и стандартные методы. Могут предложить решение как комбинацию известных шагов или сгенерировать текст, похожий на научное рассуждение. Проблема - в интуиции. Именно она позволяет математику увидеть новую теорему, сформулировать гипотезу или изобрести подход, не вытекающий напрямую из предыдущих работ. Эта интуиция рождается из глубокого, часто подсознательного понимания предмета, метафор и аналогий, которые сложно формализовать в данных для обучения. Разрыв между комбинаторной силой и интуитивным творчеством - ключевое ограничение для LLM в математике.
Для отрасли ИИ эта критика - важный ориентир. Она показывает, что путь к более развитым системам лежит не только через масштабирование параметров и данных, но и через поиск новых архитектур. Возможно, будущим моделям потребуются иные формы обучения: взаимодействие с симуляциями, активное экспериментирование или развитие внутренних представлений, похожих на человеческие ментальные модели. В краткосрочной перспективе оценка математиков корректирует ожидания: LLM останутся помощниками-ассистентами. Они пригодны для проверки гипотез, поиска по литературе, автоматизации рутинных вычислений и предложения возможных путей из известного арсенала. Их роль - усилитель человеческого интеллекта, а не его замена в творческой работе.
Что это значит для пользователей и компаний? Во-первых, это реалистичный взгляд на возможности. Инвестиции в проекты, обещающие полностью автономные научные открытия с помощью текущих LLM, выглядят сомнительно. Во-вторых, это подчеркивает ценность гибридных подходов, где человеческая интуиция направляет мощь ИИ-инструментов. Перспективны системы, где исследователь формулирует задачу и оценивает идеи, а ИИ прорабатывает технические детали, проводит вычисления и сканирует пространство возможных комбинаций. В-третьих, критика стимулирует исследования в области нейросетей, ориентированных на рассуждение и поиск новых абстракций, а не только на предсказание следующего токена. Заявление Гоуэрса и Сарнака - не приговор для ИИ в науке, а этап в понимании его текущих границ и вектора для развития.
