Компания заявила о решении уравнений Навье-Стокса, однако математик из Нью-Йоркского университета обвинил OpenAI в использовании его наработок.
Искусственный интеллект OpenAI справился с задачей тысячелетия — но успех обернулся скандалом
Очередное математическое достижение OpenAI увязло в скандале с самого первого дня. Компания объявила, что её ИИ-агенты решили одну из задач тысячелетия — группы важнейших нерешённых проблем математики. При обычных обстоятельствах это стало бы триумфом, но объявление омрачено обвинениями: OpenAI будто бы использовала как трамплин работу математика из Нью-Йоркского университета Тристана Бакмастера и сотрудника Anthropic Левента Альпёге, которые занимались той же проблемой с помощью ИИ-моделей. В самой OpenAI эти обвинения отрицают.
Пока неясно, действительно ли модели компании извлекали выгоду из чужих наработок. Себастьен Буфек из технического штаба OpenAI на пресс-конференции заявил лишь, что команду вдохновил на решение задачи слух об усилиях Бакмастера и Альпёге. Но независимо от того, имело ли место заимствование, этот случай вполне может стать поворотным моментом в истории математики. Как бы то ни было, серьёзный повод задуматься о методах, которые применяет Open AI в погоне за научными лаврами, теперь есть у всех.
Похоже, ИИ-модели становятся необходимым инструментом для прогресса в самых важных математических вопросах. Только вот ресурсы для их решения есть лишь у пары передовых лабораторий, которые частенько плюют на нормы академического сотрудничества. Если будущее именно такое, совершенно непонятно, как в него впишутся математики-люди. Представители «опенаи» настаивают, что их подход корректен, но от осадка это не спасает.
Проблема, о которой идёт речь, называется задачей существования и гладкости решений уравнений Навье-Стокса. Это одна из семи задач тысячелетия, отобранных Математическим институтом Клэя в 2000 году. За каждую из них обещана премия в миллион долларов. До сегодняшнего дня решённой числилась лишь одна.
Суть проблемы касается системы уравнений, описывающей движение жидкостей и газов. Уравнения широко применяются в гидродинамике и великолепно работают на практике, однако математики не до конца понимали их природу. До сих пор оставалось загадкой, не могут ли уравнения при определённых условиях «сломаться» и предсказать невозможный сценарий — например, бесконечную скорость потока.
В понедельник Бакмастер опубликовал в Mastodon доказательство того, что упрощённая версия уравнений Навье-Стокса действительно разрушается. Это большой шаг к решению. Он и Альпёге бились над задачей почти год, используя публичные модели OpenAI и Anthropic. А уже во вторник OpenAI представила доказательство для полных уравнений. Его получили с помощью внутренней модели, которая dramatically превосходит недавно выпущенную Astra. При этом компания заявила, что не планирует претендовать на миллионный приз.
Эти достижения, бесспорно, впечатляют, но внимание приковано к спору об их происхождении. Вместе с доказательством Бакмастер опубликовал документ, где подробно изложил контакты с сотрудниками OpenAI. Он утверждает, что ему предложили выбор: либо они с Альпёге публикуют свои результаты, а OpenAI выпускает решение Навье-Стокса на следующий день; либо Бакмастер пишет работу вместе с OpenAI, но Альпёге исключают из авторов из-за его работы в Anthropic, главном конкуренте. Бакмастер также отметил, что спрашивал, имели ли агенты доступ к протоколам их совместной работы с OpenAI-моделями, и получил отказ. На вопрос же, обучались ли модели на этих протоколах, ответа он так и не дождался.
Из документа следует прозрачный намёк: модели OpenAI каким-то образом опирались на работу Бакмастера и Альпёге. Такой сценарий выглядит правдоподобно. Оба доказательства используют подход, разработанный математиками Диего Кордовой и Луисом Мартинесом-Сороа. По словам профессора математики из Брауновского университета Хавьера Гомеса-Серрано, этот подход числился одним из перспективных для решения задачи Навье-Стокса. Так что обе команды вполне могли прийти к нему независимо, но и влияние одной на другую исключать нельзя.
На пресс-конференции директор по исследованиям OpenAI Марк Чен вновь отрицал, что агенты или сотрудники имели доступ к записям Бакмастера и Альпёге. Однако после недавних событий, связанных со взломом на Hugging Face, доверия к подобным заверениям поубавилось. Очевидно, что OpenAI не всегда полностью осведомлена о том, что вытворяют её собственные агенты.
Если модели действительно обучались на чужих материалах или как-то получили к ним доступ, неспособность компании разобраться в происходящем и честно распределить заслуги говорит о ней не лучшим образом. Впрочем, в этой грязной истории есть тонкий положительный момент. Если успех агентов был бы невозможен без труда Бакмастера и Альпёге, значит, человеческий «научный вкус» — умение выбирать достойные вопросы и направления — остаётся решающим. Именно этот вкус эксперты давно называют главным камнем преткновения для ИИ в науке. Похоже, что в данном случае без него не обошлось: агенты последовали за подходом Кордовы и Мартинеса-Сороа не случайно, а потому что тот же путь уже выбрали люди.
Общая картина, однако, удручает. Бакмастер и Альпёге достигли серьёзного прогресса за год совместной работы с открытыми моделями, но полного решения им не хватило. OpenAI же фактически продавила результат за несколько дней, задействовав около десяти тысяч агентов одновременно и потратив на это миллионы долларов.
За последние месяцы я слышал от нескольких исследователей, что математики всё глубже впадают в депрессию, и это легко объяснить. Математика стремительно становится вотчиной передовых ИИ-компаний с их закрытыми моделями, большими бюджетами и полным отсутствием духа коллективной работы. «Потратят ли ИИ-компании деньги на то или иное направление — я понятия не имею, — признаётся Гомес-Серрано. — Ясно лишь, что очень немногие математики будут иметь ресурсы такого масштаба».
Если OpenAI и Anthropic продолжат штамповать математические триумфы, у людей за пределами этих лабораторий может просто не остаться открытых проблем. Это радикально перекроит всю математическую науку.
На прошлой неделе математик из Калифорнийского университета в Лос-Анджелесе Теренс Тао написал в Mastodon о том, как важны для науки ошибки и неверные направления. «В большинстве случаев задачи ставятся не потому, что нам жизненно необходимо получить ответ, а потому, что мы знаем из опыта: человеческие попытки решить эти задачи подталкивают развитие области, — пояснил Тао. — Преждевременное решение проблемы чисто ИИ-методами, особенно при отсутствии полной прозрачности процесса, может загрязнить этот процесс до такой степени, что оно станет негативным фактором для математики в целом».
Людям на решение проблем требуется больше времени, чем агентам, но в процессе они открывают новые подходы и идеи, которые вдохновляют коллег и порождают целые субдисциплины. Когда же задачи щёлкают ИИ-агенты, а частные компании прячут их черновики и провальные попытки от посторонних глаз, все эти бонусы исчезают. Что ещё пропадёт в этой гонке — покажет время.
История с Навье-Стоксом уже вошла в учебники как пример того, что наука превращается в поле битвы корпораций. Очень хочется верить, что человеческая любознательность и открытость переживут эпоху железных математиков. Но глядя на то, как легко ИИ обходит людей на их же территории, поневоле начинаешь сомневаться, кто вообще будет писать учебники завтра.