Cei mai mari matematicieni ai lumii trag un semnal de alarmă, după ce inteligența artificială a rezolvat una dintre cele mai dificile probleme posibile

sursa foto: Profimedia

Cei mai mari matematicieni ai lumii s-au ridicat săptămâna asta împotriva companiilor de AI, după ce OpenAI a anunțat că a rezolvat o problemă extrem de dificilă din domeniu. Am vrut să aflu dacă supărarea matematicienilor vine dintr-un fel de invidie profesională sau avertismentul lor despre cum AI-ul riscă să denatureze ireversibil câmpul matematicii este valid. Ce am descoperit este relevant pentru noi toți, indiferent dacă mai știm sau nu să rezolvăm integralele din liceu.

Actul 1.

Tristan Buckmaster, profesor la Universitatea din New York, și Levent Alpöge, matematician la Anthropic, au lucrat un an de zile la problema Navier-Stokes: ecuațiile care descriu cum curg lichidele și gazele, de la sângele din vene până la aerul de pe aripa avionului. E una dintre cele șapte Probleme ale Mileniului, întrebările considerate cele mai grele din matematică, fiecare premiată cu un milion de dolari.

Cei doi au folosit asistenți AI - și Claude, și Codex (agentul de programare al OpenAI) -, în care și-au pus toate calculele. Pe 15 august au spart ecuațiile Euler, versiunea simplificată a problemei, considerată de matematicieni pasul intermediar decisiv. Nu au anunțat acest lucru public, dar vorba s-a dus.

Actul 2.

Zvonul scapă în comunitatea matematică, distorsionat: pentru că Alpöge lucrează la Anthropic, „doi oameni au găsit ceva" devine „Anthropic e pe cale să rezolve Navier-Stokes".

Zvonul ajunge la OpenAI care pornește într-o cursă nebunească să nu pice pe locul 2.

Pe 1 septembrie, compania pornește un model intern nepublicat (și modelul care spărsese serverele HuggingFace era nepublicat, pare că e plin de ele la OpenAI), vreo 10.000 de agenți AI și milioane de dolari în putere de calcul. Echipa OpenAI încearcă întâi probleme mai ușoare, apoi runda finală, care durează 88 de ore, le oferă demonstrația. Pe 8 septembrie OpenAI anunță public că a rezolvat întreaga problemă.

Unul dintre cele mai puternice laboratoare AI din lume s-a mobilizat ca la război crezând că se ia la întrecere cu rivalul lui, când de fapt concura cu doi matematicieni care lucrau în timpul liber, pe banii lor.

Actul 3.

OpenAI a atacat problema pe direcția pe care cei doi matematicieni lucraseră deja, o direcție despre care Buckmaster spune că nu e una la care ajungi în câteva zile dându-i modelului enunțul problemei. Așa că a întrebat: modelul vostru a fost antrenat pe sesiunile noastre de Codex?

Răspunsul OpenAI a fost clasic corporatist sau politicianist: a fentat întrebarea.

Inițial nu au răspuns. Fiind presați pe subiect, în cele din urmă au recunoscut că nu pot exclude ca date din folosirea produselor să fi ajutat la antrenarea modelelor. Adică este posibil ca munca lor din ultimul an să fi fost folosită pentru a crea modelul care a dat soluția.

Nu ajută nici că Buckmaster a fost amenințat de către un matematician de la OpenAI că ”își riscă cariera” dacă iese public pe subiect.

OpenAI i-a pus matematicianului pe masă două opțiuni, iar una dintre ele, în relatarea lui, presupunea o lucrare semnată fără Alpöge, al cărui angajament la Anthropic ar fi fost „enervant". Când Buckmaster a refuzat și a anunțat că face totul public, Sébastien Bubeck, matematicianul care conducea discuțiile din partea OpenAI, l-a întrebat de ce vrea să își riște cariera. La întrebarea firească „Și de ce mi-aș risca-o?", răspunsul a fost: „Dacă nu vrei să fiu drăguț, nu trebuie să fiu drăguț."

Replică de mafiot.

Actul 4.

Vineri, pe 11 septembrie, matematica a scos artileria grea.

25 de laureați ai Medaliei Fields (cea mai înaltă distincție din domeniu, un fel de Nobel al matematicii, acordat o dată la 4 ani) au publicat împreună scrisoarea „A Severe Misalignment of AI in Mathematics".

Textul s-a născut într-o singură săptămână de discuții, ceva nemaivăzut în domeniu (atâtea genii rar pică de acord atât de repede).

Scrisoarea vine după Declarația de la Leiden din iunie, semnată deja de aproape 4.000 de cercetători, inclusiv matematicieni români.

Semnatarii recunosc că modelele au devenit dramatic mai bune la matematică în ultimele luni, dar trag un semnal de alarmă. 

O problemă celebră a funcționat mereu ca un far de ghidare în matematică. Rezolvarea ei semnala idei și metode noi, pe care comunitatea le studia ani de zile, le discuta, le simplifica, le preda mai departe, până deveneau unelte pentru toată lumea. Fiecare pas intermediar ajută la îmbunătățirea întregului domeniu. Valoarea venea simultan și din drum și din destinație, în înțelegerea câștigată pe parcurs.

Companiile de AI transformă aceste probleme într-o cursă de demonstrație a puterii brute, unde tot ce e important este să ajungi primul ca să scoți comunicatul de presă, fără a furniza partea de înțelegere profundă și fără a credita autorii care au contribuit la găsirea soluției.

Rețineți cuvântul ales: „misalignment”. Lipsa de aliniere înseamnă teama că AI-ul va scăpa de sub controlul oamenilor, interesele sale fiind diferite de cele ale rasei umane (de-aici și teama că suntem în pericol de extincție).

Cei 25 de laureați ai Medaliei Fields îl folosesc acum pentru companii: stimulentele celor care dețin modelele AI merg în altă direcție decât interesele profesiei care a construit domeniul. Și scriu explicit că același dezechilibru lovește TOATE profesiile științifice și creative, adică pe fiecare dintre noi.

Progresul tehnologic este remarcabil și nu poate fi negat. Însă este dezvoltarea împinsă de ”mâna invizibilă” a capitalismului justificată, atunci când mii de cercetători și experți avertizează asupra riscurilor fundamentale?

Poate că voi nu aveți o Problemă a Mileniului în istoricul de sesiuni. Dar poate aveți codul firmei, arhitectura unui produs, o strategie pe care o scrieți în Codex, în Claude, în Copilot. Industria românească de software trăiește din proprietate intelectuală (scrisă pentru clienți care cer confidențialitate), și folosește uneltele astea zilnic. Furnizorul tău de AI poate deveni oricând concurentul tău, cu resurse de mii de ori mai mari decât ale tale.

Această controversă depășește cu mult matematica: e despre viitorul muncii și al ideilor, despre proprietate intelectuală și lăcomie.

Un AI este o „creatură” care trebuie hrănită constant cu idei și informații noi pentru a crește. La un moment dat, există riscul să ne mănânce pe toți.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp