25 držitelů Fieldsovy medaile proti AI firmám - slavné problémy nejsou benchmark

Začalo to fámou, která se ukázala jako nepravdivá. Sítí proběhla zpráva, že byly vyřešeny dva problémy tisíciletí, a tak OpenAI zkusilo, jestli to dokáže i jeho vlastní systém. Firma nasadila na Navierovy-Stokesovy rovnice zhruba 10 000 souběžně pracujících agentů a po 88 hodinách, v sobotu 5. září, měla důkaz, že proudění s hladkým rychlostním polem může v konečném čase vytvořit singularitu. Formalizace zabrala dalších 17 hodin. Oznámení přišlo 8. září a příspěvek firmy na X měl přes 73 milionů zhlédnutí. Fáma se přitom týkala něčeho jiného: Levent Alpöge a Tristan Buckmaster pracovali na Eulerových rovnicích s vynucením, a to problém tisíciletí není.

O tři dny později se na blogu matematika Terence Taa objevila deklarace podepsaná 25 držiteli Fieldsovy medaile. Medaile byla poprvé udělena v roce 1936 a od roku 1950 se uděluje pravidelně každé čtyři roky, nejvýše čtyřem lidem najednou a výhradně matematikům do čtyřiceti let. Za celou historii ji dostalo 68 lidí. Podepsalo ji 25 z nich, tedy více než třetina všech. Je mezi nimi Pierre Deligne s medailí z roku 1978 a Yu Deng, který si tu svou převzal o sedm týdnů dříve, v červenci ve Filadelfii.

Výtka je jediná a formulovaná přímo: „the push by AI companies to solve mathematical problems as a benchmark is detrimental to the science of mathematics, and to the mathematical community“ (tlak AI firem na řešení matematických problémů jako benchmarku škodí matematice jako vědě i matematické komunitě). Věta, která vysvětluje zbytek, zní takto: řešení problémů je jen nástroj, který slouží porozumění, a nepřímé měřítko toho, kolik už chápeme. Zapomenout na to ve světě AI může způsobit, že nástroj začne v dosažení tohoto cíle překážet. Hugo Duminil-Copin, jeden ze signatářů, to v rozhovoru pro týdeník The Economist vyjádřil názorně: vysadit někoho na vrchol Mount Everestu je něco úplně jiného než na něj vystoupit.

Přitom je snadné přehlédnout, co dokument nedělá. Deklarace nejmenuje ani jednu firmu. Nežádá zákaz, moratorium ani regulaci. Netvrdí, že důkazy vytvořené modely jsou chybné. Výslovně připouští, že AI může urychlit skutečný matematický výzkum. Nevznáší ani žádný konkrétní požadavek, končí větou, že je třeba se věcí naléhavě zabývat. Jeden z komentujících na Hacker News to vystihl: sdílí obavu autorů, ale nechápe, jaké konkrétní chování od kohokoli očekávají. Adresáta ukázal až Tao, který ke svému příspěvku přidal odkaz na článek týdeníku The Economist s titulkem „Top mathematicians are outraged by OpenAI's methods“.

Pozadí je ostřejší než samotný dokument. V noci před oznámením OpenAI zveřejnil matematik Tristan Buckmaster z New York University čtyřstránkové prohlášení. Napsal v něm, že jeho spoluautor dostal signály, že informace o jejich pokroku dorazila k firmě. Jejich pracovní verze zpracovával nástroj Codex, který pracuje se soubory uživatele. Ve sdělení z 8. září OpenAI napsalo, že nemůže vyloučit, že data zbavená identifikátorů a sesbíraná při používání jeho produktů pomohla modely vylepšit. O dva dny později, po vlastním šetření, firma uvedla, že Buckmasterovy dotazy nemohly systém ovlivnit nijak, ani prostřednictvím trénování.

Samostatnou věcí je autorství. Buckmaster tvrdí, že mu nabídli, aby svým jménem zaštítil opravenou verzi důkazu OpenAI, pokud ze seznamu spoluautorů odstraní Leventa Alpögeho, který pracuje v Anthropicu. Sébastien Bubeck z OpenAI odpověděl, že odstranění Alpögeho z jejich vlastní práce o Eulerových rovnicích nikdy nežádal. Připustil ale, že když se probíralo přepsání důkazu OpenAI, řekl, že by bylo jednodušší, kdyby Alpöge nebyl zaměstnancem konkurence. Deklarace mluví o řešeních oznamovaných ve spěchu, která vzbuzují vážné pochybnosti o autorství a o tom, zda nedošlo k plagiátu. Nepadlo přitom ani jedno jméno.

Sám Buckmaster chtěl mluvit o něčem úplně jiném než o sporu. Při oznámení své práce plánoval říct, že nejdůležitější nejsou výsledky, ale to, že matematik a jazykový model dnes zvládnou za měsíc práci, která dřív zabrala roky. Nazval to okamžikem srovnatelným se soubojem Kasparova s počítačem Deep Blue.

Zbytek faktů skládá obraz, který tu zlost vysvětluje lépe než samotná deklarace. Práce OpenAI má 166 stran a přes tento rozsah je v ní málo vysvětlení, jaká matematici obvykle podávají, když se dělí o objev. Jako autor je uvedena sama firma. Formalizace byla zveřejněna, takže důkaz zkontroloval stroj, ale komunita ho zatím nerecenzovala. Clayův institut drží problém stále na seznamu otevřených, protože jeho pravidla vyžadují tři věci: publikaci v recenzovaném časopise světového renomé, uplynutí dvou let od této publikace a všeobecné přijetí v matematické komunitě. Právě poslední podmínka tu bolí nejvíc. Podle odhadů časopisu Fortune se náklady na výpočty pohybovaly od 2 do 22 milionů dolarů, přičemž vyšší částka zahrnuje vše, co firma v onom týdnu počítala. Odměna činí milion dolarů a OpenAI oznámilo, že si o ni neřekne.

Odpor vůči deklaraci je stejně hlasitý. Nassim Nicholas Taleb se zeptal, jestli to prostě není špatné pro dnešní matematiky, kteří ztrácejí svou výsadu, ale nikoli nutně špatné pro matematiku samotnou. Na Hacker News, kde vlákno posbíralo přes 800 bodů, se vrací srovnání se šachy: v devadesátých letech se také říkalo, že je počítače zabijí, a dnes jsou šachy populárnější než kdy dřív. David Madore z Télécom Paris psal ještě před zveřejněním deklarace, že medailisté nezastupují těch takřka sto procent matematiků, kteří medaili nemají. Po jejím vyhlášení to zopakoval: obsah podporuje, ale nevidí důvod, proč by zrovna medailisté měli mluvit za celou komunitu.

Signatáři se na X nepřou, protože tam prostě nejsou. Tao deklaraci oznámil na Mastodonu a na vlastním blogu, Cédric Villani si účet na X smazal v lednu 2025 a Peter Scholze ho nikdy neměl. OpenAI o samotné deklaraci mlčí. Den předtím firma odstoupila od sponzorování Mathathonu na Caltechu, čtyřicetihodinové soutěže pro sto týmů, ale udělala to v reakci na samostatný dopis tamních matematiků.

Deklaraci lze podepsat po ověření totožnosti pomocí ORCID nebo univerzitní e-mailové adresy. V sobotu ráno bylo podpisů přes 2 400 z institucí celého světa a jejich počet rostl z hodiny na hodinu. V Česku je přitom matematická obec soustředěná především v Matematickém ústavu AV ČR a na MFF UK.

Nejpraktičtější závěr přesahuje matematiku. Formuloval ho Andrew Sutherland z MIT: matematici mohou být pro mnoho dalších profesí tím, čím byl kanárek pro horníky. Autoři deklarace píší totéž, jen opatrněji. Při změně způsobu práce je snadné ztratit ze zřetele to, čemu má ta práce sloužit.

Benchmark - standardizovaný test, v němž modely dostanou stejnou sadu úloh, aby šlo jejich výsledky číselně porovnat. Problémy tisíciletí - sedm úloh, které v roce 2000 označil Clayův matematický institut za nejdůležitější nevyřešené problémy matematiky, s odměnou milion dolarů za každou z nich. Codex - nástroj OpenAI pro psaní kódu, pracující se soubory uživatele. Formalizace - zápis důkazu v jazyce, v němž počítač kontroluje každý krok, například v Leanu.