„Domnu’ inginer, pe ce buton apăs?” Despre gȃndirea critică și capcanele inteligenței artificiale

Cam acum un an şi jumătate făceam o lucrare despre terapia prin artă, desfăşurată online (ca temă de aprofundare la unul din cursurile de la masterul de psihologie clinică). Atunci mi-am zis că nu ar strica să pun în introducere şi două rȃnduri despre arta stradală din perioada pandemiei. Cum asta nu se lega decȃt tangenţial de subiectul meu, mi-am zis: dacă găsesc rapid ceva, menţionez şi asta, iar dacă nu, îmi văd de subiectul principal. Drept care am cerut unei IA (nici nu-mi mai amintesc exact care, erau mai multe şi atunci) să-mi caute nişte fotografii legate de asta.

Rezultatul a fost surprinzător: am obţinut o mulţime de imagini de artă stradală, toate legate de pandemie şi bine documentate, cu autor şi titlu. Atunci mi-am zis: „wow, nici nu ştiam ce amploare a luat fenomenul, cred că merită mult mai mult de o frază în introducere, ar trebui tratat separat”. Aşa că m-am pus pe investigat, încercȃnd să aflu „povestea” din spatele fiecărei imagini. După care a apărut a doua surpriză: da, acele compoziții artistice stradale existau în realitate, dar … nu fuseseră realizate în legătură cu pandemia, aveau alte nume şi alţi autori.

Practic IA mă mințise în faţă, şi cumva mă „mințise frumos”, respectiv încercase să îmi livreze ceea ce îi ceream, chiar cu preţul distorsionării grave a informaţiei.

M-am prins în joc şi am rugat aceeaşi IA să îmi caute articole ştiinţifice despre un subiect oarecare din psihologie: le-a găsit, mi le-a dat, cu nume şi autori corecţi, dar rezumatele asociate nu aveau nicio legătură cu ce era de fapt în articole (pe care le parcursesem şi eu în diagonală şi le lăsasem deoparte pentru că nu erau legate de subiectul meu). Altă inducere în eroare.

Veţi zice poate: „ehei, asta era acum un an si jumătate, în preistoria IA, acum asta nu se mai întȃmplă!”. De acord cu termenul preistorie, unul sau doi ani reprezintă pentru IA cam cȃt a durat evul mediu pentru omenire, dar … oare acum e altfel? Păi … am citit recent o știre că un raport al unei autorităţi de îndrumare/legiferare în domeniul medicinei din SUA includea ca argumente citări din articole inexistente sau citări care păreau să vină din articole ştiinţifice reale dar nu se regăseau în textul articolelor (semnalul de alarmă fiind tras chiar de autorii în cauză). Conferința de presă a „dres-o” spunȃnd că au fost „erori de formatare”, dar … pare destul de plauzibil că şi cei care au elaborat raportul au picat în aceeaşi capcană în care picasem şi eu. Cu diferenţa că eu am verificat, iar ei au comunicat ceva „pe încredere”.

O altă situaţie in care inteligența artificială dă impresia de a fi făcut o treabă bună este aceea în care construieşte fraze frumoase, care aparent răspund la întrebare dar … de fapt sunt doar cuvinte care se înșiruie frumos fără să aducă cu adevărat informaţie valoroasă. Exemplul clasic este atunci cȃnd studenţii mei folosesc IA pentru a-şi rezolva unele teme. Dacă s-ar uita în materialul de la curs, probabil ar găsi relativ uşor răspunsul la întrebări specifice (de tipul „cum se procedează pentru a evita x fenomen în situaţia y”). Răspunsul cerut este unul concret ingineresc, de tipul „se foloseşte un dispozitiv de calibrare”, sau „se încălzește piesa x din echipament”, în timp ce IA răspunde – pompos ce-i drept – cu „se reglează optim parametrii fluxului tehnologic”, sau „se iau toate măsurile necesare pentru păstrarea calităţii produsului”. Răspunsul meu clasic către studenţii cu astfel de teme este: „vezi că într-un an va veni un operator la tine şi te va întreba: domnu’ inginer, pe ce buton apăs ca să reglez optim parametrii ăștia?”

Pe de altă parte cunosc mulţi oameni care folosesc IA şi care le consideră nişte unelte extrem de bune, în special acele IA (plătite) care sunt conectate la baze de date ştiinţifice, nu doar la informaţiile din mass-media. Aceştia spun că IA le eficientizează activitatea în special pe căutarea iniţială de informaţii, deoarece îi ajută să regăsească ce e relevant în domeniu, ba chiar sumarizează şi structurează informaţia existentă, permiţȃnd utilizatorilor să aibă foarte rapid un schelet a ceea ce ar urma să acopere în lucrările lor. Altă utilizare foarte bună este în procesarea textelor lungi, din care IA elimină repetările, evidenţiază contradicțiile şi ajută la rescrierea unor porțiuni de text care nu sunt deosebit de inteligibile. Cȃnd ai de scris un e-mail probabil că lucrurile sunt simple, dar într-o teză de doctorat sau un roman istoric, chiar riști, ca autor, să mai faci confuzii, să te mai repeți sau chiar să te contrazici, şi e bine să ai un „paznic” de nădejde!

Cum procedează însă aceşti oameni ca să aibă avantajele utilizării IA dar să nu pice în plasa „minciunilor plauzibile” sau a frazelor goale de conţinut?

Mai întȃi ar fi de reţinut un dicton apărut odată cu primele calculatoare: „programul face ceea ce îi spui tu să facă, nu ceea ce ai vrea tu să facă”. Cu alte cuvinte răspunsul este bun doar dacă întrebarea este pusă corect. Este perfect valabil şi pentru inteligența artificială. Noi, oamenii putem să deducem – din context sau din indicii transmise non-verbal – care este sensul unei întrebări formulate vag, inteligența artificială nu. După cum glumeam cȃnd au apărut calculatoarele, dacă întrebi un program „aveţi cumva un ceas?” acesta îţi va răspunde „da, am”, dar nu îţi va spune ora, aşa cum ar face-o un trecător. Deci pentru cine îşi propune să folosească avantajele IA, care nu sunt puţine, primul lucru ar fi să înveţe să întrebe corect (adică detaliat şi specificând parametrii răspunsului, de tipul: caută-mi o cafenea deschisă pȃnă la miezul nopții, în perimetrul străzilor A, B şi C, cu terasă şi care are recenzii bune şi prețuri între x şi y lei”. Altfel s-ar putea să fii trimis în celălalt capăt al orașului, la o pizzerie. Să ştiţi că a „da un prompt corect” pentru IA nu e deloc uşor, iar calitatea răspunsului depinde în mare măsură de cum întrebi, dincolo de cȃt de „deșteaptă” este inteligența artificială.

Alt lucru important este să analizăm răspunsul şi să îl verificăm. Aceste lucruri ţin de gȃndirea critică. Dacă ne interesăm de un subiect anume, realitatea spune că informaţiile, fie şi cele din surse credibile, sunt de multe ori contradictorii şi nu extrem de articulate între ele. Dacă vrem să ştim care este stadiul cercetărilor în raport cu un anumit subiect, cu siguranţă vom găsi studii care au condus la rezultate contradictorii, care au clarificat o porțiune a unui fenomen dar nu tot ansamblul, care s-au orientat spre aplicaţii extrem de diverse, etc. Dacă răspunsul IA este unul în care totul este perfect „aliniat”, lucrurile curg logic şi răspunsul este exact acela aşteptat de noi, atunci apare un semn de întrebare. După cum toată lumea ştie că în viaţa reală în spatele unei oferte „prea bune ca să fie adevărată” stau ori informaţii omise (care ridică ulterior preţul) fie chiar o tentativă de înşelăciune, tot aşa, un răspuns care așterne totul logic şi „lin” probabil este asociat cu omisiuni sau cu interpretări eronate ale informaţiei.

Ceea ce avem de făcut, în toate cazurile, este să procesăm critic ceea ce ni se oferă. Fie că verificam, măcar prin sondaj, veridicitatea referințelor, fie că ne interesăm explicit de opinii opuse, fie că analizăm logica din spatele unor concluzii.

Dacă ne obişnuim să facem asta, atunci într-adevăr IA poate deveni un partener de lucru extrem de util căruia îi putem distribui sarcinile de rutină şi consumatoare de timp, păstrȃnd pentru noi bucuria descoperirii şi a creativităţii.

PS: imaginea asociată acestei postări este generată de o inteligenţă artificială pe care am rugat-o să se „portretizeze” pe sine. S-a văzut drept „o galaxie de cunoaştere, în rotație”.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp