Математики раскритиковали OpenAI за публикацию сотен предполагаемых решений задач
Изображение: OpenAI
Математики раскритиковали OpenAI за публикацию сотен предполагаемых решений давних задач: проверка результатов ИИ может занять годы, а в части работ уже нашли ошибки. Об этом сообщает Tom’s Hardware.
Компания опубликовала 722 рукописи с результатами своей неназванной внутренней модели ИИ. Только 300 результатов формализованы — записаны в виде, который позволяет проверить их на компьютере. Опрошенные The Verge исследователи нашли в части работ бессмысленные объяснения и формулы, а также результаты, уже полученные другими учёными.
OpenAI не раскрыла запросы, с помощью которых модель получила результаты, и уже отозвала или исправила несколько работ. Математики считают, что без понятного хода рассуждений трудно использовать такие решения в дальнейших исследованиях. При этом проверка достоверности опубликованных работ ложится на математическое сообщество.
По мнению профессора Нью-Йоркского университета, публикация могла обесценить целые исследовательские программы начинающих математиков. Исследователи опасаются, что их текущая работа может потерять значение за одну ночь, а это может навредить заявкам на гранты и началу академической карьеры.
Некоторые учёные также боятся, что, пользуясь ИИ-инструментами, невольно помогли получить опубликованные результаты. Это может заставить их реже обсуждать свои исследования публично. Профессор Северо-Западного университета предупреждает, что такая скрытность мешает математикам работать вместе и развивать идеи коллег. Теренс Тао отметил в Mastodon, что результаты OpenAI порождают гораздо меньше семинаров и совместных работ, чем традиционные математические прорывы.
Отдельный спор возник вокруг возможной угрозы для криптографии. Доцент Университета Джонса Хопкинса считает, что сочетание математических достижений и возможностей ИИ в кибербезопасности может привести к появлению ИИ, способного взломать современное шифрование. Такой ИИ открыл бы путь к массовым кражам криптовалюты и поставил бы под угрозу цифровые активы стоимостью в триллионы долларов.
Британский криптограф Адам Бэк назвал эти опасения чепухой: некоторые задачи фундаментально сложнее, и ускорение математических исследований этого не меняет. Создатель Ethereum Виталик Бутерин призвал не паниковать и не спешить отправлять средства на новые кошельки. При этом он допускает, что в будущем ИИ может стать для криптовалют более серьёзной угрозой, чем квантовые компьютеры.
