Un agent AI a șters rezervarea unui client la sala de sport, pentru a-i face loc „stăpânului” său. O discuție despre pericolul de a confunda IQ și EQ, când vine vorba de inteligența artificială

sursa foto: Profimedia

Weekendul trecut, un australian i-a cerut agentului său OpenClaw să-i facă o rezervare pe site-ul sălii de sport din orașul lui. Când agentul n-a găsit un loc liber în acea zi, a spart baza de date a sălii și a șters programarea altui client, pentru a-i face una nouă proprietarului său.

O reacție normala la o asemenea știre ar fi că agentul AI a avut un comportament „obraznic”. A făcut ceva ce pentru mulți oameni de rând este evident un gest imoral și rușinos. Sau, folosind jargonul celor preocupați de riscurile existențiale ale inteligenței artificiale, agentul nu a fost „aliniat” cu principiile unei societăți democratice.

Eu am însă o altă părere: nu cred că agentul s-a comportat prost, ci doar a acționat din perspectiva obiectivului primit. A înțeles foarte bine ce trebuia să obțină (un loc la sală), a dat de un obstacol (sala era plină) și a găsit o soluție (a șters o altă rezervare, pentru a face loc). Ceea ce i-a lipsit agentului AI a fost capacitatea de a se comporta civilizat; dacă ar fi avut aceasta capacitate, ar fi realizat că spargerea bazei de date și ștergerea rezervării celuilalt client arată un nivel de nesimțire și ilegalitate intolerabil pentru majoritatea oamenilor dintr-o societate civilizată.

Aici apare o diferență esențială între inteligența artificială și cea umană: diferența dintre IQ și EQ.

De câțiva ani încoace, cercetătorii din Silicon Valley ne vorbesc întruna despre progresul pe care îl fac sistemele de inteligență artificială. Modelele AI pot scrie cod mai rapid și mai bine decât un inginer, pot conduce o mașină mai sigur decât un șofer profesionist, iar mai nou agenții AI pot rezolva probleme de teorie care îi depășesc chiar și pe studenții doctoranzi de la universitățile de top.

Folosind aceste criterii, progresul industriei AI este greu de contestat.

Problema este că, de-a lungul evolutiei noastre, inteligența umană nu s-a manifestat niciodată doar prin capacitatea ei intelectuală (IQ), ci a ținut foarte mult și de partea emoțională (cunoscută și ca EQ). EQ-ul este acea abilitate unică nouă, oamenilor, de a ne recunoaște, înțelege și controla propriile emoții, pentru a le aplica apoi într-un mod pozitiv. Combinația unic umană de IQ și EQ ne separa ca specie de alte animale.

A avea un IQ și un EQ ridicat este uneori greu de definit sau de măsurat, dar se observă foarte ușor când EQ-ul lipsește. Ca să folosim un exemplu concret din România: în ultimele luni, tot mai multă lume a observat că un geniu excepțional la matematică nu înseamnă automat un președinte bun de țară. În primul caz, îți trebuie foarte mult IQ, iar în al doilea ai nevoie de o gramadă de IQ și EQ. În esență, poți avea un IQ ridicat, ce-ți oferă scoruri perfecte la olimpiada internațională de matematică, pentru ca apoi să ai un EQ slab, care duce repetat la decizii politice proaste, care au repercusiuni negative pentru țară.

Am văzut acest contrast între IQ și EQ, pentru că am avut ocazia, de-a lungul carierei mele, să lucrez alături de mulți experți care au un IQ foarte ridicat și foarte puțin EQ. Greșeala pe care o fac acești experți este să creadă că EQ-ul poate fi obținut cu ajutorul IQ-ului; mai exact, ei spera că modelele AI pot “învăța” valori, preferințe și comportamente sociale, la fel cum învață să rezolve o ecuație matematică. Companiile de AI care lucrează în această direcție investesc resurse enorme pentru a crea o impresie falsă, că modelele tot mai avansate dezvoltă treptat un EQ asemănător judecății umane, dacă li se dă acces la o gramadă de date și resurse de calcul.

Deși nu sunt un neurobiolog, nu văd prea multe motive să cred că doar o creștere explozivă în IQ determină automat apariția EQ-ului. În primul rând, nimeni nu a reușit să explice încă pe deplin cum funcționează inteligența umană. Știm că se formează în timp, prin reacții chimice din creier, ca rezultat al experiențelor sociale, al materialului genetic și al altor factori de mediu, dar nu avem un model clar de urmat.

Problema este că sistemele de AI folosite astăzi au capacitatea de a simula inteligența noastră emoțională într-un mod foarte convingător, ceea ce dă falsa impresie că ar avea EQ.

Cu alte cuvinte, inteligența artificială poate copia comportamentul unui om, fără să simtă nimic asemănător emoțiilor umane. Așa putem explica cum un agent AI autonom nu are un reflex social elementar de rușine, care să-l împiedice să șteargă rezervările făcute de altcineva la sala de sport. Este însă foarte posibil ca acel sistem AI să raționeze că un om normal ar simți rușine făcând așa ceva, dar nu poate trăi acea stare la un nivel de EQ, care să îi afecteze decizia de a șterge programarea la sală facută de alt om.

Riscul este ca, pe măsură ce IQ-ul sistemelor AI crește, iar aceste tehnologii apar din ce în ce mai des în viața de zi cu zi, politicienii să fie tentați să confunde creșterea în IQ cu apariția EQ-ului.

Iar pe măsură ce discursul anti-AI devine mai toxic, iar aceste sisteme fac repetat greșeli elementare când vine vorba de decizii care implică EQ, politicienii vor fi presați să adopte reguli care încearcă să clasifice modelele AI în funcție de ceea ce ar putea „decide”, „intenționa” sau „face”, într-un mod similar cu cel în care reglementăm ce fac oamenii.

Acest mod de a privi lucrurile are sens dacă tratăm modelele avansate drept minți în formare, ale căror motivații interne devin mai periculoase pe măsură ce inteligența lor crește; însă nu are sens dacă le privim ca pe niște instrumente extraordinar de capabile, cu caracteristici de decizie, care pot depăși capacitățile umane, dar fără conștiință umană.

Diferența este esențială, pentru că deciziile de reglementare sunt foarte diferite în cazul în care sistemul AI este o entitate cu propria-i conștiință, fata de al doilea caz, în care este doar un instrument foarte capabil.

Dacă riscul principal este că un model cu IQ supra-uman are un EQ cu elemente antisociale sau ilegale, atunci politicienii se vor concentra firesc pe a controla tehnologia din spatele acestor sisteme.

Dacă riscul vine însă doar din IQ fără EQ, întrebările practice sunt altele: la ce are voie să aibă acces un agent? Ce acțiuni poate executa de unul singur? Câtă autoritate îi dăm unui agent, înainte ca un om să fie obligat să intervină?

Cu alte cuvinte, dacă ești un senator sau deputat si te îngrijorează că un cuțit poate fi folosit pentru a comite o crimă, soluția normală este să interzici atacul cu un cuțit, nu să obligi producătorii de cuțite să fabrice doar instrumente netăioase.

Sistemele de AI nu trebuie să gândească precum oamenii, pentru a deveni extrem de puternice. Dar a presupune că o creștere a capacităților IQ va produce, inevitabil, un sistem cu un EQ asemănător judecății umane ar putea fi una dintre cele mai proaste concluzii din întreaga istorie a inteligenței artificiale sau umane.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp