Sunt zile bune de când șuvoaie de știri contradictorii și pe alocuri șocante curg și umplu burtierele de la TV și fluxurile de informații din online și social media. E ca și cum omenirii i s-a demagnetizat busola, motiv pentru care se rostogolește la vale cu o viteză care ne dă amețeală și anxietate.
Într-un articol publicat tot aici, pe Republica, remarcam că, politic, lumea este în aceste zile fragmentată, dominată de alianțe de conjunctură bazate pe interese economice și tehnologice, mai degrabă decât pe ideologii. Conchideam în acel articol că noua paradigmă a puterii se va construi pe un făgaș tehnologic mai mult decât pe unul ideologic și că nu e clar încă dacă ea este dictată de plutocrația tehnologică sau de factorul guvernamental.
Istoria ne arată că marile schimbări vin adesea în urma unor evenimente cu alură de crize neașteptate. Redefinirea ordinii mondiale din aceste zile este acompaniată de mai multe scenarii care se pot manifesta independent, concomitent, sau în cascadă. Ne putem aștepta la un eveniment de tip ”lebădă neagră” (o criză economică, un conflict extins, o nouă pandemie). Sau ne putem aștepta la o explozie a revoluției tehnologice în plină desfășurare (inteligența artificială - IA, fuziunea nucleară, bioingineria). Cum am putea fi martorii accentuării crizei climatice sau ai unui impas economic major determinat de criza energetică și de resurse (adevărata temă a sustenabilității în opinia mea). Oricare dintre aceste scenarii ar putea forța națiunile să colaboreze; sau, dimpotrivă, să să devină mai protecționiste.
Personal, găsesc plauzibil un scenariu în care nicio putere nu va domina clar, ci vor funcționa o vreme alianțe fluide care vor da contur unei lumi multipolare, cu forme și configurații pe alocuri bizare. Și în care se va miza pe tehnologie (inteligența artificială, digitalizarea, supravegherea + autonomie umană vs. automatizare) și sustenabilitate (tranziția verde, energia, resursele + echitatea socială vs. costurile și constrângerile impuse de tranziție).
Cele două teme – tehnologia și sustenabilitatea – nu sunt izolate, ci se întrepătrund și creează bazele pentru o nouă revoluție industrială în care elitele (de văzut care) controlează resursele, datele și informațiile. Pornind de la controlul datelor și al infrastructurii digitale, tehnologia, în special IA, a generat o temă fierbinte de dezbatere între ”elitele tehnologice” și guverne; atât cele democratice, cât și cele autoritare. Dilema acestei dezbateri are tentă socială: automatizarea și robotizarea pot crește productivitatea, dar distrug milioane de joburi. Mai profundă mi se pare însă dezbaterea legată de supraveghere vs. libertate: tehnologiile digitale pot oferi autonomie, securitate și eficiență, dar și control asupra cetățenilor.
Bunul simț îmi spune că marile companii tehnologice devin mai puternice decât multe guverne.
Și întrebarea imediată este ”cine reglementează pe cine”? Pentru că, mai ales în aceste zile, etica întâlnește pragmatismul economic și nu poți să nu te întrebi: cine decide limitele unei tehnologii precum IA? Aș îndrăzni să spun că elitele politice și tehnologice sunt într-un parteneriat fragil și că la un moment dat apele se vor separa.
Astăzi, cele două grupuri colaborează pentru că își servesc reciproc interesele. Elitele politice (guverne, organisme internaționale, caracterizate ca fiind birocratice) vor control social și economic, iar tehnologia le oferă instrumentele pentru a-l impune. Plutocrația tehnologică (giganții AI, marile corporații digitale) vor protecție și ”favoruri” pentru a-și menține monopolurile și a-și impune inovațiile fără prea multe restricții.
De ce cred că e fragil și temporar acest parteneriat? Pentru că fiecare grup are o viziune diferită despre cine ar trebui să dețină puterea reală și ce înseamnă libertatea, inclusiv libertatea economică. Ar fi câteva exemple care definesc această alianță fragilă. Unul mare - elefantul din cameră - ar fi reglementarea IA, în contextul cenzurii digitale și al controlului informației: ce informații ar trebui să circule pe rețelele de socializare și cine monitorizează acest conținut? Până unde are ”dreptul” să se ducă inovația fără să afecteze, pe fond, interesele mici ale celor mulți și potențial vulnerabili?
Elita politică va dori să păstreze controlul statelor naționale, al instituțiilor internaționale și al economiei mondiale, indiferent că e la Washington, Bruxelles, Moscova sau Beijing (poate chiar și la București). Dar digitalizarea și în particular IA le pot submina autoritatea. Elita tehnologică vede lumea sub semnul libertății tehnologice, o lume în care tehnologia stabilește regulile, nu un panel de reglementatori care aleargă în urma inovației și care, prin regulile lor, îi pot altera eficacitatea și forța. Cu atât mai mult cu cât experții în reglementare - oameni cu gândire liniară - nu țin pasul cu ritmul tehnologiei - al cărei ritm este exponențial. Va veni deci un moment în care plutocrația tehnologică nu va mai avea nevoie de politicieni dacă va putea controla direct datele și - aici vine problema - comportamentul oamenilor. Care, după cum putem constata, se întâmplă sub ochii noștri.
Care este acest moment? Probabil când IA va deveni greu de controlat, chiar și tehnologic. Când singurul mod prin care va mai putea fi oprită va fi un buton de ”shut down”. Dacă va exista un astfel de buton.
La cum evoluează, IA poate automatiza decizii economice, legale, guvernamentale. Când va ajunge să „știe mai bine” decât guvernele, elitele politice vor încerca să le limiteze puterea. A se vedea exemplele Baidu și Alibaba în China, regulile stricte pe IA în UE, investigațiile monopolurile Big Tech în SUA. În aceeași retorică, banii și sistemele financiare devin mai descentralizate urmând un făgaș tehnologic: criptomonedele și blockchain-ul din spate și sistemele de plăți alternative coexistă azi cu monedele fiat și sistemele tradiționale, altminteri și ele digitalizate.
Dar poate cea mai disputată zona este și va continua să fie cea a controlului informației, în numele libertății de exprimare. Politicienii vor dori să capteze în continuarea atenția publică, cu o retorică mai mult sau mai puțin tradițională, în timp ce, cu ajutorul inteligenței artificiale generative, devine (este!) posibilă dezinformarea în masă și manipularea realității.
Nu doar libertatea expresiei va fi un declanșator al acestui potențial conflict. Tranziția verde devine și ea o problemă economică reală, dacă de exemplu guvernele ar impune politici ”verzi” care afectează ritmul de dezvoltare al tehnologiei. Cum ar fi ca la un moment dat să existe restricții de minerit al materialelor rare sau taxe pe consumul de energie în creștere al cloud-ului și centrelor de date (IA și blockchain consumă foarte multă energie)? Cine va contesta cu prioritate astfel de reguli? În mod clar plutocrația high tech (inclusiv cei care furnizează infrastructură digitală, dispozitive și microcipuri).
Suntem și aici pe tărâmul permisiv – hârtia suportă orice – al scenariilor. Un prim scenariu este cel deja operațional în China, unde firmele tehnologice ”colaborează” cu statul și urmează calea Partidului Comunist. Un al doilea scenariu este cel care se prefigurează în SUA: digitalizarea a creat un context în care corporațiile par mai influente decât guvernele, sau mai degrabă statele devin dependente de tehnologie pentru administrare, iar deciziile politice sunt luate de algoritmi și AI (e ceva să te oprești în drum spre grădiniță cu copilul pentru un stand-up meeting în Biroul Oval). Și avem desigur și scenariul de mijloc, cel al unui „război rece” între politicieni și elita tehnologică.
Soluția optimă? Greu de spus. Da, într-un scenariu ideal, ar trebui să existe un echilibru între guverne, tehnologie și libertățile individuale. Dar cine va avea forța (și dorința) să impună un astfel de echilibru?
Viitorul nu este complet decis, chiar dacă direcția actuală favorizează elitele politice și tehnologice. Nu e niciun dubiu că viitorul aparține tehnologiei, dar va conta enorm și cât de inteligent (sau mai degrabă înțelept) vom ști să o folosim, fără a deveni sclavii ei. Avem încă de ales. Dar va fi un efort substanțial, pentru că ceea ce ni se ”oferă” azi - acel păgubos instant gratification - ne trimite pe toți în Țara Minunilor și tărâmul lui Oz.
Oare, noi, oamenii obișnuiți, mai putem înclina balanța? Aș zice că da, dacă ne vom da răgaz să înțelegem cum funcționează tehnologia, ne vom crea sistematic alternative informaționale și vom căpăta instinctul de a promova surse credibile și raționale. Nu de alta, dar inteligența umană s-a construit pe rațiune și încredere. Chiar așa ușor le vom ceda unor algoritmi?
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
Tema AI e invocată tot mai des ca scuză pentru inabilitățile statului de drept în a asigura o bună guvernare, în care individul să aibă măcar senzația că drepturile sale fundamentale sunt apărate.
Concret, la alegerile din noiembrie, autoritățile statului s-au trezit depășite de evenimente. Escrocheria de pe tiktok s-a putut desfășura nestânjenită, deși fenomenul a fost observat încă din stare incipientă (începutul lunii noiembrie).
Au fost articole de presă și materiale video care semnalau potențialul pericol.
Atâta doar că n-a fost clar pentru cine se făceau jocurile, până cu vreo 10 zile înainte de vot.
Atunci au intrat în scenă boții. O avalanșă de comentarii cu același text.
Niște boți simpli, poate cei mai ieftini, al căror algoritm conținea probabil o funcție logică, cu condiția de interogare, prezența hashtagului #echilibrusiverticalitate :
- dacă da, plasează "Votați Călin Georgescu !"
- dacă nu, continuă căutarea.
Prezența AI-ului ar fi permis simularea interacțiunii umane, a dialogului.
Ceva de genul :
- Și eu îl votez pe..
- M-a convins, e cel mai bun, votați..
- Îl votez pe... Știe cineva, cine e.. ?
.............................. etc
Dar AI-ul e scump. Cu atât mai scump, cu cât e mai sofisticat..
Revenind la oile noastre, se știe cine a marcat ținta pentru boți (hashtagul)
E o anchetă penală care-ar trebui să dezvăluie cine a plătit boții.
Și având în vedere că nu s-a emis factură fiscală, se caută dovezi indirecte.
Cum ar putea fi, de pildă, faptul că distinsul Rareș Bogdan a șters-o la Realitatea TV, după ce s-a dovedit că a fost în vizită la FameUp, înainte de alegeri.. AI, AI, AI..