25 ведущих математиков подписали открытое письмо, в котором предупредили: гонка компаний за достижения в области искусственного интеллекта может создать проблемы для науки и поставить под угрозу работу самих учёных.
Все первоначальные авторы письма — обладатели медали Филдса, одной из самых престижных наград в математике.
Поводом для новой волны споров стал профессор Нью-Йоркского университета Тристан Бакмастер. На прошлой неделе он обвинил OpenAI в том, что компания оказывала на него давление, требуя не указывать среди авторов одной из работ коллегу из Anthropic, вместе с которым он занимался решением важной математической задачи.
Учёный также спросил, могла ли OpenAI использовать материалы, которые исследователи загружали в Codex, чтобы затем самостоятельно получить доказательство этой задачи с помощью длительных вычислений.
При этом сами математики не отрицают пользу ИИ. Способность искусственного интеллекта решать сложные нерешённые задачи может принести науке огромную пользу. Но, по их мнению, важно, чтобы учёные могли понять и проверить такие решения, а затем объяснить их другим.
«Зачастую о таких решениях объявляют в спешке. На то, чтобы должным образом оформить результат работы, выделить основные методы и идеи, а также сослаться на соответствующие работы других учёных, просто не остаётся времени. Как и в любой творческой профессии, это порождает серьёзные вопросы об авторстве и плагиате. Более того, без участия математиков, которые должны заниматься развитием и включением новых идей в математический канон, зародившиеся с помощью ИИ идеи никогда не обретут полноценную жизнь, а важнейшая цепочка передачи знаний между математиками будет утеряна», — говорится в письме.
Авторы TechCrunch отмечают, что доказательство OpenAI пока не прошло независимую проверку.
На этом фоне математики становятся осторожнее. Они опасаются, что крупная ИИ-компания, обнаружив перспективную идею в работе учёных, сможет потратить огромные средства на вычисления и первой представить готовое доказательство. В итоге исследователи могут начать меньше делиться своими идеями, а открытая научная работа станет более закрытой.
Письмо появилось вслед за Лейденской декларацией, опубликованной группой учёных в июне. В ней также рассматривалось, как ИИ может изменить работу математиков, и предлагались рекомендации для учёных, научных организаций и властей.
Авторы письма подчёркивают: математика — это не только готовые доказательства. Важен и сам процесс, во время которого студенты учатся, учёные обсуждают идеи, появляются новые вопросы, а результаты постепенно становятся частью общего знания.
«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами других научных и творческих профессий. Они указывают на вопрос, который может встать перед всем человечеством: как сделать так, чтобы, пока ИИ меняет способы выполнения работы, мы не утратили изначальную цель этой работы», — говорится в письме математиков.
