OpenAI открыла ящик Пандоры: теперь каждому ИИ-открытию понадобится паспорт происхождения

У OpenAI появилась новая проблема, которую уже не решить ни очередным Lean-сертификатом, ни твитом о прорыве. После заявления компании о результате по Навье—Стоксу математики начали спрашивать не только «верно ли доказательство?», но и «откуда модель вообще это взяла?». И это, возможно, гораздо более разрушительный для индустрии вопрос.

Поводом стал спор вокруг Astra: Андреас Том допускает, что модель могла обучаться на разговорах, где он и Габор Кун обсуждали неопубликованную работу о софических группах. Это не доказанное обвинение в краже: опубликованное решение действительно опирается на ранее опубликованные результаты Куна и Куна—Тома, а прямых свидетельств попадания конкретных чатов в обучение нет. Но сама дилемма вполне материальна.

OpenAI прямо пишет, что может использовать контент из пользовательского ChatGPT для улучшения моделей, если человек не отключил эту опцию. Причём речь не обязательно о сотруднике, который открыл чей-то чат и передал его модели. Достаточно более туманной и почти непроверяемой цепочки: разговор обезличили, он попал в пост-трейн, модель усвоила какие-то ходы — и через месяцы выдала результат, удивительно похожий на то, над чем кто-то работал в приватном окне.

Именно поэтому спор о Навье—Стоксе стал переломным. «Твит — даже от OpenAI — не равен решённой задаче», но теперь твит не равен и просто заявке на приоритет. Под подозрением окажется не только следующая публикация OpenAI или Anthropic, а вообще любая громкая работа, авторы которой пользовались предобученной моделью: а не могла ли она принести ход из чужих приватных чатов? Тем более что гиперскейлеры сами годами раздавали исследователям инвайты, кредиты и гранты на работу с такими ассистентами.

«Твит — даже от OpenAI — не равен решённой задаче», но теперь твит не равен и просто заявке на приоритет.

Это новая бюрократия доверия для науки — и не только для науки. Раньше исследователю требовалось доказать теорему и корректно сослаться на предшественников. Теперь, возможно, придётся доказывать ещё и отрицательное: что его соавтор-ассистент не принёс решение из чужой, случайно или намеренно загруженной переписки. Покажите происхождение идеи, историю чатов, настройки приватности, даты, доступы, логи и то, что именно модель могла видеть. И чем убедительнее будут становиться модели, тем менее убедительным будет простое «она сама придумала».

Можно сколько угодно спорить, прав ли Том в конкретной истории. Но сам факт, что такой спор звучит правдоподобно, уже меняет правила игры для всех, кто публикует что-либо с помощью ИИ. OpenAI своими математическими победами без исчерпываемого происхождения данных и идей просто первой открыла этот ящик Пандоры. Обратно эту пасту уже не запихнуть: отныне не только ИИ придётся объяснять ход рассуждений — людям, лабораториям и компаниям придётся объяснять, откуда взялось право назвать результат открытием.