Ilustrație: Un pompier stinge focul într-o pădure. Imaginea este complet generată de AI - Igor Klyakhin/ Panthermedia/ Profimedia
Anul trecut am predat la o școală gimnazială, anul acesta predau la universitate. Noile tehnologii și cum funcționează acestea. Toți copiii și tinerii cu care am interacționat știu de Chat GPT. Unii, mai ales studenții, sunt la curent cu noile versiuni, știu un pic ce face, însă rar, spre deloc știu cum funcționează acest sistem în spate.
De ce este important să înțelegem cum funcționează? Ca să știm câtă încredere să avem în rezultatele pe care ni le furnizează. Cei mai mulți dintre cei care folosesc platformele cu AI generative (gen Chat GPT, Bing, Bard) își imaginează procesul ca pe o conversație cu o persoana care îi înțelege. Într-un fel vorbim despre o antropomorfizare a tehnologiei – adică procesul prin care atribuim caracteristici umane unui obiect sau fenomen.
Ce este foarte important de înțeles este că aceste sisteme și în general calculatoarele, așa cum funcționează ele, fie că vorbim de aceste aplicații sau altele, nu înțeleg ce rezultate ne dau. Nu înțeleg imaginile pe care le recunosc și, în general, nu au o semnificație și sunt doar numere.
Și pentru că am menționat numere, într-o descriere extrem de simplistă a acestui fenomen, ceea ce numim noi acum Inteligență Artificială este de fapt Învățare Automată și un fel de statistică mult mai avansată. Practic, în momentul în care noi scriem un cuvânt sau o fraza pentru ChatGPT, sistemul din spate o cataloghează, o analizează conform propriului sistem de înțelegere și caută ca răspuns cuvinte care să fie cât mai aproape statistic de ceea ce căutam. Cu alte cuvinte, dacă noi scriem în Chat GPT să ne dea o rețetă de lasagna, computerul nu are nici cea mai mică idee ce este lasagna sau cum arată ea. Ne va oferi, de fapt, un răspuns cu o sintaxă corecta, cu cuvintele care statistic sunt cel mai aproape de conținutul solicitat de noi. E ca atunci când noi vedem un șir de numere de genul 2, 4, 6, 8 și știm, cumva automat, că următorul număr este 10.
Evident, sunt calcule matematice extrem de complexe în spate și o bază de date mai mare decât ne putem imagina, însă foarte simplist acesta este procesul de analiză și răspuns.
Vă veți întreba probabil cum este diferită statistica din spatele ChatGPT de cea a platformei Google? Și Google folosește statistica, însă sistemul Google este relativ simplu: care sunt statistic cele mai accesate site-uri. Este tot un sistem algoritmic în spate, însă este unul oarecum intuitiv, al cărui proces îl înțelegem.
Pentru a înțelege și mai bine procesul, trebuie spus că este foarte importantă și baza de date folosită pentru antrenarea, adică procesul de “învățare” al platformei generative. Primele versiuni ale Chat GPT la care publicul a avut acces au fost antrenate exclusiv pe materiale alese de creatorii săi și cu acces controlat la Internet. Odată ce a apărut următoarea versiune și baza de date a avut acces și la informația existentă pe internet, datele statistice s-a schimbat. Pentru a înțelege mai bine, imaginați-vă că îl întrebați pe Chat GPT în prima sa versiune despre trap – este probabil ca în baza de date inițială să nu fi existat informații despre faptul că trap este și un gen de muzica modern. Odată cu versiunile ulterioare, care au extins baza de date inclusiv la informațiile disponibile pe internet, ChatGPT poate să ofere în cadrul răspunsului varianta ca trap să fie și un stil de muzică.
Fake news, fake images, fake videos, fake everything
Dacă ați avut răbdarea să parcurgeți aceste explicații, este mai ușor de înțeles dacă vă spun că ar trebui să verificăm întotdeauna răspunsurile primite de la Chat GPT sau imaginile pe care le vedem pe internet, pentru că odată cu Chat GPT au apărut pe și piață platforme generative pentru imagini, precum MidJourney, Dall-E și acum chiar și versiunea 4 a Chat GPT).
Gândirea critică este un element esențial al educației. Ea ar fi trebuit să fie antrenată și până acum pentru a identifica știrile false, însă astăzi, mai mult decât oricând, este extrem de importantă. Fake news, fake images, fake videos, fake everything cum îmi intitulez una dintre lecțiile de la curs.
Ce înseamnă gândire critică? Înseamnă să fim conștienți în primul rând că există posibilitatea acestor știri false, imagini false, voci false, video false și să încercăm să analizăm ceea ce auzim, în special dacă are o importanță asupra vieții noastre. Dacă o știre, o filmare pare să iasă din contextul cu care suntem obișnuiți, atunci, la fel ca la știrile false, ar trebui să căutăm sursa, să verificăm paginile oficiale ale persoanelor respective și să încercăm să ne dăm seama dacă sunt artificiale. Atât cât mai putem, căci pe măsură ce această tehnologia se dezvoltă, nu vom mai putea să ne mai dăm seama, de exemplu, dacă suntem atenți, de faptul că un video este fals. În prezent există câteva site-uri care pot depista text scris cu platforme generative, există câteva care identifica și video false, însă, gândirea critică ar trebui să fie cea care ne semnalizează că ceva este în neregulă.
În opinia mea, teama noastră nu ar trebui să fie că copiii și tinerii folosesc ChatGPT ca să copieze teme, ci teama mea este că ei chiar vor crede ce le spune ChatGPT acolo. Și vor ajunge în aceeași situație ca un avocat american, care s-a dus în fața judecătorului cu cazuri din trecut prezentate de Chat GPT ca fiind relevante și care, de fapt, erau false.
Eu mi-am încurajat studenții să folosească Chat GPT pentru a le structura lucrarea pe care o au de pregătit, însă la finalul cursului vor trebui să o și prezinte și le-am cerut, pentru a-i nota corespunzător, să fie capabili să îmi povestească ce au scris.
Fără doar și poate nu există soluții perfecte sau salvatoare, însă este o temă ce ar trebui integrate în procesul de învățare. Până acum educația privind știrile false în România s-a făcut mai degrabă de către organizații din afara școlii pentru câțiva profesori. Să sperăm că astăzi, când nevoia de gândire critică devine mai mare ca oricând, vom reuși să ne educăm copiii în această direcție, pentru a evita posibile efecte negative.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
Mai rău este că date reale sunt mixate cu date false, făcând și mai dificilă identificarea fake-urilor.
În viitor ar trebui ca fiecare element care intră în bazele de date ale unui sistem generativ de AI să fie validate ca fiind adevărate. Dar asta este foarte greu de realizat, având în vedere volumul imens de date (multe din ele fiind adăugate în fiecare clipă), care, în fapt, sunt preluate automat din Internet de către aceste sisteme.
O posibilă soluție ar fi cotarea gradului de încredere (măcar statistică) a surselor din Internet iar răspunsul generat de sistemele AI să conțină inclusiv referiri la gradul de încredere al surselor care au stat la baza elaborării răspunsului. Se face deja așa ceva pentru optimizarea reclamelor date de Google, folosind operatori umani (Internet Adds Assessors).
Am cerut GPT date biografice despre un jurnalist. Am observat ca mi-a dat si unele date false, dar am crezut ca e doar o confuzie a lui. Inteleg acum ca GPT poate chiar inventa raspunsuri fara nicio legatura cu realitatea, ca in cazul avocatului american.
Este un subiect care va obliga omenirea să se cunoască mai profund pe sine însăși. Practic pune în discuție cam toate aspectele legate de gândire, liber arbitru, morală, suflet, etc.