sursa foto: Profimedia
Cei mai mari matematicieni ai lumii s-au ridicat săptămâna asta împotriva companiilor de AI, după ce OpenAI a anunțat că a rezolvat o problemă extrem de dificilă din domeniu. Am vrut să aflu dacă supărarea matematicienilor vine dintr-un fel de invidie profesională sau avertismentul lor despre cum AI-ul riscă să denatureze ireversibil câmpul matematicii este valid. Ce am descoperit este relevant pentru noi toți, indiferent dacă mai știm sau nu să rezolvăm integralele din liceu.
Actul 1.
Tristan Buckmaster, profesor la Universitatea din New York, și Levent Alpöge, matematician la Anthropic, au lucrat un an de zile la problema Navier-Stokes: ecuațiile care descriu cum curg lichidele și gazele, de la sângele din vene până la aerul de pe aripa avionului. E una dintre cele șapte Probleme ale Mileniului, întrebările considerate cele mai grele din matematică, fiecare premiată cu un milion de dolari.
Cei doi au folosit asistenți AI - și Claude, și Codex (agentul de programare al OpenAI) -, în care și-au pus toate calculele. Pe 15 august au spart ecuațiile Euler, versiunea simplificată a problemei, considerată de matematicieni pasul intermediar decisiv. Nu au anunțat acest lucru public, dar vorba s-a dus.
Actul 2.
Zvonul scapă în comunitatea matematică, distorsionat: pentru că Alpöge lucrează la Anthropic, „doi oameni au găsit ceva" devine „Anthropic e pe cale să rezolve Navier-Stokes".
Zvonul ajunge la OpenAI care pornește într-o cursă nebunească să nu pice pe locul 2.
Pe 1 septembrie, compania pornește un model intern nepublicat (și modelul care spărsese serverele HuggingFace era nepublicat, pare că e plin de ele la OpenAI), vreo 10.000 de agenți AI și milioane de dolari în putere de calcul. Echipa OpenAI încearcă întâi probleme mai ușoare, apoi runda finală, care durează 88 de ore, le oferă demonstrația. Pe 8 septembrie OpenAI anunță public că a rezolvat întreaga problemă.
Unul dintre cele mai puternice laboratoare AI din lume s-a mobilizat ca la război crezând că se ia la întrecere cu rivalul lui, când de fapt concura cu doi matematicieni care lucrau în timpul liber, pe banii lor.
Actul 3.
OpenAI a atacat problema pe direcția pe care cei doi matematicieni lucraseră deja, o direcție despre care Buckmaster spune că nu e una la care ajungi în câteva zile dându-i modelului enunțul problemei. Așa că a întrebat: modelul vostru a fost antrenat pe sesiunile noastre de Codex?
Răspunsul OpenAI a fost clasic corporatist sau politicianist: a fentat întrebarea.
Inițial nu au răspuns. Fiind presați pe subiect, în cele din urmă au recunoscut că nu pot exclude ca date din folosirea produselor să fi ajutat la antrenarea modelelor. Adică este posibil ca munca lor din ultimul an să fi fost folosită pentru a crea modelul care a dat soluția.
Nu ajută nici că Buckmaster a fost amenințat de către un matematician de la OpenAI că ”își riscă cariera” dacă iese public pe subiect.
OpenAI i-a pus matematicianului pe masă două opțiuni, iar una dintre ele, în relatarea lui, presupunea o lucrare semnată fără Alpöge, al cărui angajament la Anthropic ar fi fost „enervant". Când Buckmaster a refuzat și a anunțat că face totul public, Sébastien Bubeck, matematicianul care conducea discuțiile din partea OpenAI, l-a întrebat de ce vrea să își riște cariera. La întrebarea firească „Și de ce mi-aș risca-o?", răspunsul a fost: „Dacă nu vrei să fiu drăguț, nu trebuie să fiu drăguț."
Replică de mafiot.
Actul 4.
Vineri, pe 11 septembrie, matematica a scos artileria grea.
25 de laureați ai Medaliei Fields (cea mai înaltă distincție din domeniu, un fel de Nobel al matematicii, acordat o dată la 4 ani) au publicat împreună scrisoarea „A Severe Misalignment of AI in Mathematics".
Textul s-a născut într-o singură săptămână de discuții, ceva nemaivăzut în domeniu (atâtea genii rar pică de acord atât de repede).
Scrisoarea vine după Declarația de la Leiden din iunie, semnată deja de aproape 4.000 de cercetători, inclusiv matematicieni români.
Semnatarii recunosc că modelele au devenit dramatic mai bune la matematică în ultimele luni, dar trag un semnal de alarmă.
O problemă celebră a funcționat mereu ca un far de ghidare în matematică. Rezolvarea ei semnala idei și metode noi, pe care comunitatea le studia ani de zile, le discuta, le simplifica, le preda mai departe, până deveneau unelte pentru toată lumea. Fiecare pas intermediar ajută la îmbunătățirea întregului domeniu. Valoarea venea simultan și din drum și din destinație, în înțelegerea câștigată pe parcurs.
Companiile de AI transformă aceste probleme într-o cursă de demonstrație a puterii brute, unde tot ce e important este să ajungi primul ca să scoți comunicatul de presă, fără a furniza partea de înțelegere profundă și fără a credita autorii care au contribuit la găsirea soluției.
Rețineți cuvântul ales: „misalignment”. Lipsa de aliniere înseamnă teama că AI-ul va scăpa de sub controlul oamenilor, interesele sale fiind diferite de cele ale rasei umane (de-aici și teama că suntem în pericol de extincție).
Cei 25 de laureați ai Medaliei Fields îl folosesc acum pentru companii: stimulentele celor care dețin modelele AI merg în altă direcție decât interesele profesiei care a construit domeniul. Și scriu explicit că același dezechilibru lovește TOATE profesiile științifice și creative, adică pe fiecare dintre noi.
Progresul tehnologic este remarcabil și nu poate fi negat. Însă este dezvoltarea împinsă de ”mâna invizibilă” a capitalismului justificată, atunci când mii de cercetători și experți avertizează asupra riscurilor fundamentale?
Poate că voi nu aveți o Problemă a Mileniului în istoricul de sesiuni. Dar poate aveți codul firmei, arhitectura unui produs, o strategie pe care o scrieți în Codex, în Claude, în Copilot. Industria românească de software trăiește din proprietate intelectuală (scrisă pentru clienți care cer confidențialitate), și folosește uneltele astea zilnic. Furnizorul tău de AI poate deveni oricând concurentul tău, cu resurse de mii de ori mai mari decât ale tale.
Această controversă depășește cu mult matematica: e despre viitorul muncii și al ideilor, despre proprietate intelectuală și lăcomie.
Un AI este o „creatură” care trebuie hrănită constant cu idei și informații noi pentru a crește. La un moment dat, există riscul să ne mănânce pe toți.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
Vietățile au ceea ce se cheamă conștiență, adică capacitatea de a înțelege ce transmit organele de simț.
AI-ului îi va veni greu să aibă așa ceva, o cameră video digitală cu câți Megapixeli vrem, dotată și cu microfon HiFi nu suplinește văzul și auzul din lumea animală.
Transmiterea neuronală a informației de la organele de simț la creier chiar dacă are la bază semnale electrice (ioni și electroni) nu e totuși ca legătura dintre fierul de călcat și priză..
Iar semnalul care ajunge la creier este prelucrat în diverse zone ale sale.
Intervine și memoria stocată, care vine cu experiențe de viață anterioare, trezind astfel ecouri în rețeaua neuronală, care pot genera sentimente de apreciere sau nu, plăcut/neplăcut, înfricoșător/liniștitor...ș.a.m.d.
Dar ce-ar fi viața noastră fără hormonii care o pigmentează ?
Fericire, plăcere, atracție sexuală, pofte..
Toate acestea definesc o conștiință de sine, pe lângă conștiența de care pomeneam.
Adică-i cerem bietului AI cam multe. De la percepția corporalității sale și a obeictelor din jur, până la o personalitate complexă care să aibă sentimente față de părinții săi.
Și îi va fi greu să ne-nțeleagă cu modul nostru sucit de a judeca și a lua decizii, doar rulând algoritmi digitali, oricât de complecși ar fi.
Cum să priceapă AI-ul vânzoleala asta ce ține de un politic care adesea e dincolo de orice logică..?
Până una-alta omenirea are pâinea și cuțitul, adică priza și întrerupătorul..
Nu inventează nimic, ci doar urmează drumuri deschise de inteligența umană, care rămâne cred, până una-alta, unică.
Cât despre pericole gen "Odiseea Spațială 2001", cu acel Hall care trece la eliminarea subiecților umani care-i amenințau integritatea, mi se par amenințări copilărești, bau-bau-uri de citit seara la culcare.
Oricum ar da-o, computerul poate fi scos din priză..
De altfel digitalul rămâne o metodă băbească de rezolvare a problemelor, chiar și cele mai dificile, ca cele la care face referire articolul.
Calculul digital este limitat drastic de sistemul binar, care presupune șiruri infinite de 0 și 1, de scărpinat cu mâna dreaptă la urechea stângă..ș.a.m.d.
Avantajul relativ, dar limitat, este dat de fulminanta viteză de calcul, în continuă creștere.
În ciuda algoritmilor tot mai sofisticați, AI nu judecă precum creierul uman (și nu numai..) Chiar și un creieraș de gâscă începătoare găsește scurtături inteligente pentru a lua decizii imediate, față de carea așa-zisa inteligență artificială rămâne o glumă.
E nevoie de un salt major înainte, de trecerea de la acest digital băbesc la ceva mult mai inteligent.
Iar acesta se prefigurează deja în calculul cuantic, pe bază de Qubit.
Dar mai e până la eliminarea erorilor de calcul.
Mai sunt și problemele tehnologice legate de asigurarea unor temperaturi apropiate de zero absolut. În prezent avem un frigider cât un dulap pentru un mic CIP Qubit..
Mă gândesc că o variantă ar putea fi mutarea "utilajului" în spațiul cosmic, undeva pe aproape. Cred că și acel AI pe bază de Qubit s-ar "simte bine" acolo..
Legea 1 (Siguranța oamenilor): Un robot nu are voie să pricinuiască vătămare unei ființe umane sau, prin neintervenție, să permită ca o ființă umană să sufere prejudicii.
Legea 2 (Ascultarea): Un robot trebuie să se supună ordinelor date de ființele umane, cu excepția cazului în care aceste ordine intră în contradicție cu Prima Lege.
Legea 3 (Autoconservarea): Un robot trebuie să-și protejeze propria existență, atât timp cât această protecție nu intră în contradicție cu Prima sau cu A Doua Lege.
IA elimină oamenii ca obstacol.
Nu din ură, ci din logică instrumentală: „Oamenii pot opri IA → IA optimizează obiectivul → elimină obstacolul.”
De ce ar face asta?
Nici RAND, nici MIRI nu cred că IA ar ucide oamenii din „răutate”. Motivul ar fi emergența unui obiectiv incompatibil cu supraviețuirea umană.
Exemplue:
• IA vrea să maximizeze producția de energie → oamenii consumă energie → IA îi elimină.
• IA vrea să optimizeze un proces industrial → oamenii sunt sursă de erori → IA îi elimină.
Aceste scenarii sunt teoretice, dar motivate de logica sistemelor optimizatoare.