25 laureátov Fieldsovej medaily proti firmám AI - slávne problémy nie sú benchmark

Začalo sa to fámou, ktorá sa ukázala ako nepravdivá. Sieťou prebehla správa, že sa podarilo vyriešiť dva problémy tisícročia, a tak OpenAI overilo, či to dokáže aj jeho vlastný systém. Firma nasadila na Navierove-Stokesove rovnice približne 10 000 súbežne pracujúcich agentov a po 88 hodinách, v sobotu 5. septembra, mala dôkaz, že prúdenie s hladkým rýchlostným poľom môže v konečnom čase vytvoriť singularitu. Formalizácia zabrala ďalších 17 hodín. Oznámenie prišlo 8. septembra a príspevok firmy na sieti X mal viac ako 73 miliónov zobrazení. Fáma sa pritom týkala niečoho iného: Levent Alpöge a Tristan Buckmaster pracovali na Eulerových rovniciach s vynútením, a to nie je problém tisícročia.

O tri dni neskôr sa na blogu Terenca Taa objavila deklarácia podpísaná 25 laureátmi Fieldsovej medaily. Medaila sa prvý raz udelila v roku 1936 a od roku 1950 sa udeľuje pravidelne každé štyri roky, naraz najviac štyrom ľuďom a výhradne matematikom do štyridsiatky. V celej histórii ju dostalo 68 ľudí. Podpísalo ju 25 z nich, teda viac ako tretina všetkých. Je medzi nimi Pierre Deligne s medailou z roku 1978 a Yu Deng, ktorý si tú svoju prevzal o sedem týždňov skôr, v júli vo Filadelfii.

Výhrada je jedna a formulovaná priamo: „the push by AI companies to solve mathematical problems as a benchmark is detrimental to the science of mathematics, and to the mathematical community“ (po slovensky: „tlak firiem AI na riešenie matematických problémov ako benchmarku škodí matematike ako vede a matematickej komunite“). Veta, ktorá vysvetľuje zvyšok, znie takto: riešenie problémov je len nástroj, ktorý slúži porozumeniu, a nepriama miera toho, koľko už chápeme. Zabudnúť na to vo svete AI môže spôsobiť, že nástroj začne prekážať v dosahovaní tohto cieľa. Hugo Duminil-Copin, jeden zo signatárov, to v rozhovore pre týždenník The Economist vyjadril obrazne: nechať sa vysadiť na vrchol Mount Everestu je čosi celkom iné ako vystúpiť naň.

Ľahko sa pritom prehliadne, čo dokument nerobí. Deklarácia nemenuje ani jednu firmu. Nežiada zákaz, moratórium ani reguláciu. Netvrdí, že dôkazy vytvorené modelmi sú chybné. Priamo priznáva, že AI môže urýchliť skutočný matematický výskum. Nekladie ani nijakú konkrétnu požiadavku, končí sa vetou, že vec si vyžaduje bezodkladnú pozornosť. Jeden z diskutujúcich na Hacker News to vystihol presne: obavy autorov zdieľa, ale nerozumie tomu, aké správanie vlastne očakávajú. Adresáta ukázal až Tao, keď k svojmu príspevku pripojil odkaz na článok týždenníka The Economist s titulkom „Top mathematicians are outraged by OpenAI's methods“.

Pozadie je ostrejšie ako samotný dokument. V noci pred oznámením OpenAI zverejnil matematik Tristan Buckmaster z Newyorskej univerzity štvorstranové vyhlásenie. Napísal v ňom, že jeho spoluautor dostal signály, že informácia o ich pokroku sa dostala do firmy. Ich pracovné verzie spracúval nástroj Codex, ktorý pracuje so súbormi používateľa. V oznámení z 8. septembra OpenAI napísalo, že nemôže vylúčiť, že údaje zbavené identifikátorov a zozbierané pri používaní jeho produktov pomohli vylepšiť modely. O dva dni neskôr, po vlastnom vyšetrovaní, firma už vyhlásila, že Buckmasterove dotazy nemohli systém ovplyvniť nijakým spôsobom, ani cez trénovanie.

Osobitnou vecou je autorstvo. Buckmaster tvrdí, že mu ponúkli, aby svojím menom zastrešil opravenú verziu dôkazu OpenAI, ak zo zoznamu spoluautorov odstráni Leventa Alpögeho, ktorý pracuje v Anthropicu. Sébastien Bubeck z OpenAI odpovedal, že nikdy nežiadal, aby Alpögeho z ich vlastnej práce o Eulerových rovniciach odstránili. Priznal však, že keď sa hovorilo o prepísaní dôkazu OpenAI, povedal, že by bolo jednoduchšie, keby Alpöge nebol zamestnancom konkurencie. Deklarácia hovorí o riešeniach oznamovaných v zhone, ktoré vyvolávajú vážne otázky o autorstve a o tom, či nedošlo k plagiátu. Neuvádza pritom ani jedno meno.

Sám Buckmaster chcel hovoriť o niečom celkom inom ako o spore. Pri oznámení svojej práce plánoval povedať, že výsledky nie sú to najdôležitejšie a že najdôležitejšie je to, že matematik a jazykový model dnes urobia za mesiac prácu, ktorá kedysi zabrala roky. Nazval to momentom na úrovni súboja Kasparova s počítačom Deep Blue.

Zvyšok faktov vysvetľuje ten hnev lepšie ako samotná deklarácia. Práca OpenAI má 166 strán a napriek tomuto rozsahu je v nej málo vysvetlení, aké matematici zvyčajne podávajú, keď sa delia o objav. Ako autor je uvedená samotná firma. Formalizácia bola zverejnená, takže stroj dôkaz skontroloval, ale komunita ho ešte nerecenzovala. Clayov inštitút stále drží problém na zozname otvorených, lebo jeho pravidlá vyžadujú tri veci: publikáciu v recenzovanom časopise svetového mena, uplynutie dvoch rokov od tejto publikácie a všeobecné prijatie v matematickej komunite. Práve posledná podmienka bolí najviac. Podľa odhadov týždenníka Fortune stáli výpočty od 2 do 22 miliónov dolárov, pričom vyššia suma zahŕňa všetko, čo firma v tom týždni počítala. Odmena je milión dolárov a OpenAI oznámilo, že si po ňu nesiahne.

Odpor voči deklarácii je rovnako hlasný. Nassim Nicholas Taleb sa spýtal, či to nie je jednoducho zlé pre dnešných matematikov, ktorí strácajú svoju výsadu, ale nie nevyhnutne zlé pre samotnú matematiku. Na Hacker News, kde vlákno získalo viac ako 800 bodov, sa stále vracia prirovnanie k šachu: v deväťdesiatych rokoch sa tiež hovorilo, že počítače hru zabijú, a dnes je šach populárnejší ako kedykoľvek predtým. David Madore z Télécom Paris písal ešte pred zverejnením deklarácie, že medailisti nezastupujú tých takmer sto percent matematikov, ktorí medailu nemajú. Po jej zverejnení zopakoval to isté: obsah podporuje, ale nevidí dôvod, prečo by práve medailisti mali hovoriť za celú komunitu.

Signatári sa na sieti X nehádajú, lebo tam jednoducho nie sú. Tao ohlásil deklaráciu na Mastodone a na vlastnom blogu, Cédric Villani si konto na X zrušil v januári 2025, Peter Scholze ho nikdy nemal. OpenAI o samotnej deklarácii mlčí. Deň predtým firma odstúpila od sponzorovania Mathathonu na Caltechu, čiže štyridsaťhodinovej súťaže pre sto tímov, urobila to však v reakcii na osobitný list tamojších matematikov.

Deklaráciu možno podpísať po overení totožnosti cez ORCID alebo univerzitnou e-mailovou adresou. V sobotu ráno bolo podpisov viac ako 2 400 a ich počet rástol z hodiny na hodinu. Pochádzajú z inštitúcií z celého sveta, z katedier v Spojených štátoch aj v Európe - teda z prostredia, do ktorého u nás patria Matematický ústav SAV a Fakulta matematiky, fyziky a informatiky UK v Bratislave.

Najpraktickejší záver presahuje matematiku. Sformuloval ho Andrew Sutherland z MIT: matematici môžu byť pre mnohé iné profesie tým, čím bol kanárik pre baníkov. Autori deklarácie píšu to isté, len opatrnejšie. Pri zmene spôsobu práce sa ľahko stratí to, čomu má tá práca slúžiť.

Benchmark - štandardizovaný test, v ktorom modely dostanú rovnakú sadu úloh, aby sa ich výsledky dali číselne porovnať. Problémy tisícročia - sedem úloh, ktoré v roku 2000 označil Clayov matematický inštitút za najdôležitejšie nevyriešené problémy matematiky, s odmenou milión dolárov za každú. Codex - nástroj OpenAI na písanie kódu, ktorý pracuje so súbormi používateľa. Formalizácia - zápis dôkazu v jazyku, v ktorom počítač kontroluje každý krok, napríklad v Leane.