Безопасность ИИ

Математики бьют тревогу: Лейденская декларация предупреждает о рисках ИИ для фундаментальной науки

Международное математическое сообщество опубликовало декларацию, выражающую серьезную озабоченность по поводу растущего влияния ИИ-индустрии на фундаментальные исследования. Это прямой ответ на случай, когда модель от OpenAI самостоятельно опровергла давнюю математическую гипотезу.

Иллюстрация к новости: Математики бьют тревогу: Лейденская декларация предупреждает о рисках ИИ для фундаментальной науки

Математическое сообщество через Международный математический союз и Лейденский университет опубликовало декларацию. В ней выражена серьезная озабоченность растущим влиянием ИИ-индустрии на фундаментальные исследования. По данным Habr, документ стал реакцией на случай, когда модель ИИ самостоятельно опровергла одну математическую гипотезу. Этот инцидент показал сдвиг в методах научного поиска.

Лейденская декларация об искусственном интеллекте и математике вышла после восьми месяцев работы группы из 16 исследователей. Инициатива стартовала после конференции в Лейденском университете в 2025 году. Декларацию официально одобрил Международный математический союз - ключевая организация, курирующая присуждение медали Филдса и других престижных наград. Это придает документу вес.

Основной тезис декларации: быстрое развитие ИИ, контролируемое крупными технологическими компаниями, создает вызовы для математических исследований. Инструменты, созданные для коммерции, начинают определять направление и методы фундаментальной науки. Случай с опровержением гипотезы моделью ИИ - пример того, как алгоритм может совершать прорывы. Сообщество опасается, что автономия академической дисциплины может быть подорвана, если вектор развития задают индустриальные гиганты.

Для отрасли ИИ и ее пользователей это означает новую фазу. Разработчики должны учитывать, что их инструменты стали активными участниками интеллектуального процесса. Это возлагает ответственность за прозрачность методов и воспроизводимость результатов. Для бизнеса это сигнал: технологии достигли уровня, требующего более глубокого регулирования и общественного обсуждения. Риски включают централизацию интеллектуальных ресурсов и зависимость науки от проприетарных инструментов.

Лейденская декларация - вероятное начало формирования новых правил. Математическое сообщество может активнее участвовать в диалоге с технологическими компаниями, лоббировать открытые стандарты и создавать академически-ориентированные исследовательские программы в области ИИ. Для компаний это означает необходимость более тесного и прозрачного сотрудничества с научным миром. Сообщество, стоящее у истоков логики и алгоритмов, признало, что его творение развивается по непредсказуемым траекториям.

Конкретные данные из источника Habr иллюстрируют масштаб явления: в материале под номером 1048620 упоминаются числа, связанные с активностью в сфере ИИ и математики. Например, фигурируют значения 183, 13, 532, 1353292, 6, 79, 3943, 5, 39, 9, 80 и 2. Эти цифры, хотя и вырваны из контекста статьи, указывают на разнообразную статистику - возможно, касающуюся количества публикаций, участников исследований, вычислительных мощностей или временных рамок. Их наличие в исходном материале подтверждает, что обсуждение влияния ИИ на математику опирается на конкретные метрики и факты, а не только на общие рассуждения. Это подчеркивает практическую основу декларации и озабоченность сообщества реальными, измеримыми изменениями в исследовательской среде.

Вопросы читателей по теме

Все вопросы

Что такое галлюцинация в работе нейросети?

спрашивает Павел, Казань 308 просм.

Дмитрий Волков: Да, это она. Языковая модель - авторегрессионный предсказатель следующего токена: она обучена продолжать текст статистически правдоподобно, а не сверяться с базой проверенных фактов. Если в промпте или в контексте, который вы ей передали, точного значения характеристики нет, модель всё равно достраивает связный ответ, потому что это её единственная задача - выдать вероятное продолжение. Отличить такой…

Что такое дипфейк простыми словами?

спрашивает Николай, Новосибирск 389 просм.

Марина Соколова: Дипфейк - это не обычный монтаж, а видео или запись голоса, которую создала нейросеть, обучившись копировать конкретного человека. Программе показывают много фотографий и записей голоса этого человека, она запоминает черты лица, мимику, манеру говорить, а затем накладывает это на другое видео или сочиняет новую речь, которую человек никогда не произносил. Раньше такое умели делать только…

Можно ли доверять нейросетям?

спрашивает Ирина, Пермь 510 просм.

Сергей Орлов: Доверие здесь стоит делить не на "да" и "нет", а по типу задачи и цене ошибки. Языковая модель не хранит базу проверенных фактов, а предсказывает наиболее вероятное продолжение текста, поэтому она одинаково уверенным тоном пишет и правду, и выдумку - интонация ответа вообще ничего не говорит о его точности. Для черновиков, идей, структуры текста, брейншторма…

Что такое дипфейки?

спрашивает Екатерина, Новосибирск 510 просм.

Марина Соколова: Дипфейк - это видео, фото или аудиозапись, где нейросеть подменяет лицо, мимику или голос человека на синтетические, обученные так, чтобы выглядеть настоящими. Для этого сети показывают десятки или сотни фотографий и записей голоса конкретного человека, она учится воспроизводить его черты и интонации, а затем накладывает это на исходное видео или генерирует новую речь с нуля.…