25 ведущих математиков предупредили об угрозе ИИ для науки

25 лауреатов премии Филдса предупредили, что развитие искусственного интеллекта (ИИ) может негативно повлиять на математические исследования и научное сообщество. Открытое письмо учёных опубликовано на сайте движения Math and AI.

Авторы документа считают, что разработчики ИИ и математики по-разному относятся к решению научных задач. Технологические компании используют способность моделей находить ответы на известные проблемы как показатель развития систем. Для учёных же доказательство представляет ценность прежде всего тогда, когда помогает получить новые методы и лучше понять предмет исследования.

После решения математической задачи специалисты обычно изучают использованный подход, упрощают доказательство, сопоставляют его с предыдущими работами и определяют, где ещё можно применить полученные идеи. Этот процесс может занимать продолжительное время.

Распространение ИИ, по мнению авторов письма, способно изменить сложившийся порядок. Компании могут публиковать результаты до того, как специалисты успеют проверить их, выделить новые методы, установить связь с предыдущими исследованиями и корректно указать вклад других учёных.

Отдельной проблемой математики назвали авторство и возможный плагиат. Они считают, что полученные ИИ идеи требуют участия исследователей, которые смогут проверить их и включить в существующую систему научных знаний.

При этом подписанты не выступают против использования технологии в математике. Они допускают, что ИИ способен ускорить исследования, однако последствия его распространения будут зависеть от правил применения таких систем и решений их разработчиков.

Письмо появилось на фоне спора вокруг заявления OpenAI о решении одной из семи «задач тысячелетия» — проблемы существования и гладкости решений уравнений Навье — Стокса. Компания сообщила, что её внутренняя модель получила доказательство, после чего формализация и проверка результата заняли ещё 17 часов.

Профессор Нью-Йоркского университета Тристан Бакмастер позднее заявил, что подход OpenAI совпал с методом, над которым он работал вместе с математиком Anthropic Левентом Алпёге. При этом Бакмастер подчеркнул, что не видел доказательство компании и не утверждает, что она использовала черновики их работы.

По словам учёного, представители OpenAI обсуждали с ним и Алпёге варианты публикации результата и дважды предлагали исключить последнего из числа авторов. Сам Бакмастер назвал совпадение методов поводом для вопросов.