Sari la continut

Vorbește cu Republica și ascultă editorialele audio

Vă mulțumim că ne sunteți alături de șapte ani. Ascultați editorialele audio publicate pe platformă. Un proiect de inovație în tehnologie susținut de DEDEMAN.

Știri false, imagini false, voci false, video-uri false. Cum funcționează de fapt AI și cum îi putem antrena pe copii să detecteze informațiile nereale

Imagine generată de AI

Ilustrație: Un pompier stinge focul într-o pădure. Imaginea este complet generată de AI - Igor Klyakhin/ Panthermedia/ Profimedia

Anul trecut am predat la o școală gimnazială, anul acesta predau la universitate. Noile tehnologii și cum funcționează acestea. Toți copiii și tinerii cu care am interacționat știu de Chat GPT. Unii, mai ales studenții, sunt la curent cu noile versiuni, știu un pic ce face, însă rar, spre deloc știu cum funcționează acest sistem în spate.

De ce este important să înțelegem cum funcționează? Ca să știm câtă încredere să avem în rezultatele pe care ni le furnizează. Cei mai mulți dintre cei care folosesc platformele cu AI generative (gen Chat GPT, Bing, Bard) își imaginează procesul ca pe o conversație cu o persoana care îi înțelege. Într-un fel vorbim despre o antropomorfizare a tehnologiei – adică procesul prin care atribuim caracteristici umane unui obiect sau fenomen.

Ce este foarte important de înțeles este că aceste sisteme și în general calculatoarele, așa cum funcționează ele, fie că vorbim de aceste aplicații sau altele, nu înțeleg ce rezultate ne dau. Nu înțeleg imaginile pe care le recunosc și, în general, nu au o semnificație și sunt doar numere.

Și pentru că am menționat numere, într-o descriere extrem de simplistă a acestui fenomen, ceea ce numim noi acum Inteligență Artificială este de fapt Învățare Automată și un fel de statistică mult mai avansată. Practic, în momentul în care noi scriem un cuvânt sau o fraza pentru ChatGPT, sistemul din spate o cataloghează, o analizează conform propriului sistem de înțelegere și caută ca răspuns cuvinte care să fie cât mai aproape statistic de ceea ce căutam. Cu alte cuvinte, dacă noi scriem în Chat GPT să ne dea o rețetă de lasagna, computerul nu are nici cea mai mică idee ce este lasagna sau cum arată ea. Ne va oferi, de fapt, un răspuns cu o sintaxă corecta, cu cuvintele care statistic sunt cel mai aproape de conținutul solicitat de noi. E ca atunci când noi vedem un șir de numere de genul 2, 4, 6, 8 și știm, cumva automat, că următorul număr este 10.

Evident, sunt calcule matematice extrem de complexe în spate și o bază de date mai mare decât ne putem imagina, însă foarte simplist acesta este procesul de analiză și răspuns.

Vă veți întreba probabil cum este diferită statistica din spatele ChatGPT de cea a platformei Google? Și Google folosește statistica, însă sistemul Google este relativ simplu: care sunt statistic cele mai accesate site-uri. Este tot un sistem algoritmic în spate, însă este unul oarecum intuitiv, al cărui proces îl înțelegem.

Pentru a înțelege și mai bine procesul, trebuie spus că este foarte importantă și baza de date folosită pentru antrenarea, adică procesul de “învățare” al platformei generative. Primele versiuni ale Chat GPT la care publicul a avut acces au fost antrenate exclusiv pe materiale alese de creatorii săi și cu acces controlat la Internet. Odată ce a apărut următoarea versiune și baza de date a avut acces și la informația existentă pe internet, datele statistice s-a schimbat. Pentru a înțelege mai bine, imaginați-vă că îl întrebați pe Chat GPT în prima sa versiune despre trap – este probabil ca în baza de date inițială să nu fi existat informații despre faptul că trap este și un gen de muzica modern. Odată cu versiunile ulterioare, care au extins baza de date inclusiv la informațiile disponibile pe internet, ChatGPT poate să ofere în cadrul răspunsului varianta ca trap să fie și un stil de muzică.

Fake news, fake images, fake videos, fake everything

Dacă ați avut răbdarea să parcurgeți aceste explicații, este mai ușor de înțeles dacă vă spun că ar trebui să verificăm întotdeauna răspunsurile primite de la Chat GPT sau imaginile pe care le vedem pe internet, pentru că odată cu Chat GPT au apărut pe și piață platforme generative pentru imagini, precum MidJourney, Dall-E și acum chiar și versiunea 4 a Chat GPT).

Gândirea critică este un element esențial al educației. Ea ar fi trebuit să fie antrenată și până acum pentru a identifica știrile false, însă astăzi, mai mult decât oricând, este extrem de importantă. Fake news, fake images, fake videos, fake everything cum îmi intitulez una dintre lecțiile de la curs.

Ce înseamnă gândire critică? Înseamnă să fim conștienți în primul rând că există posibilitatea acestor știri false, imagini false, voci false, video false și să încercăm să analizăm ceea ce auzim, în special dacă are o importanță asupra vieții noastre. Dacă o știre, o filmare pare să iasă din contextul cu care suntem obișnuiți, atunci, la fel ca la știrile false, ar trebui să căutăm sursa, să verificăm paginile oficiale ale persoanelor respective și să încercăm să ne dăm seama dacă sunt artificiale. Atât cât mai putem, căci pe măsură ce această tehnologia se dezvoltă, nu vom mai putea să ne mai dăm seama, de exemplu, dacă suntem atenți, de faptul că un video este fals. În prezent există câteva site-uri care pot depista text scris cu platforme generative, există câteva care identifica și video false, însă, gândirea critică ar trebui să fie cea care ne semnalizează că ceva este în neregulă.

În opinia mea, teama noastră nu ar trebui să fie că copiii și tinerii folosesc ChatGPT ca să copieze teme, ci teama mea este că ei chiar vor crede ce le spune ChatGPT acolo. Și vor ajunge în aceeași situație ca un avocat american, care s-a dus în fața judecătorului cu cazuri din trecut prezentate de Chat GPT ca fiind relevante și care, de fapt, erau false.

Eu mi-am încurajat studenții să folosească Chat GPT pentru a le structura lucrarea pe care o au de pregătit, însă la finalul cursului vor trebui să o și prezinte și le-am cerut, pentru a-i nota corespunzător, să fie capabili să îmi povestească ce au scris.

Fără doar și poate nu există soluții perfecte sau salvatoare, însă este o temă ce ar trebui integrate în procesul de învățare. Până acum educația privind știrile false în România s-a făcut mai degrabă de către organizații din afara școlii pentru câțiva profesori. Să sperăm că astăzi, când nevoia de gândire critică devine mai mare ca oricând, vom reuși să ne educăm copiii în această direcție, pentru a evita posibile efecte negative.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Pe scurt, se poate spune că ChatGPT nu este suficient de inteligent încât să deceleze ce e real de ce e fake în bazele de date pe care le utilizează. Altfel spus, algoritmii generativi funcționează, cel puțin în prezent, pe principiul CICO (kk input - kk output).
    Mai rău este că date reale sunt mixate cu date false, făcând și mai dificilă identificarea fake-urilor.
    În viitor ar trebui ca fiecare element care intră în bazele de date ale unui sistem generativ de AI să fie validate ca fiind adevărate. Dar asta este foarte greu de realizat, având în vedere volumul imens de date (multe din ele fiind adăugate în fiecare clipă), care, în fapt, sunt preluate automat din Internet de către aceste sisteme.
    O posibilă soluție ar fi cotarea gradului de încredere (măcar statistică) a surselor din Internet iar răspunsul generat de sistemele AI să conțină inclusiv referiri la gradul de încredere al surselor care au stat la baza elaborării răspunsului. Se face deja așa ceva pentru optimizarea reclamelor date de Google, folosind operatori umani (Internet Adds Assessors).
    • Like 0
  • Foarte, foarte, foarte folositor acest articol!
    Am cerut GPT date biografice despre un jurnalist. Am observat ca mi-a dat si unele date false, dar am crezut ca e doar o confuzie a lui. Inteleg acum ca GPT poate chiar inventa raspunsuri fara nicio legatura cu realitatea, ca in cazul avocatului american.
    • Like 3
    • @ Tudor Bucur
      Andrei check icon
      De acord. Totuși m-aș opri puțin la "inventează". Aș alege "generează" tocmai ca să nu-l (o) antropomorfizăm deși procesul pare a fi același in creierul animal: pentru un răspuns se accesează o bază de date (corectă sau nu) și folosindu-se algoritmi (în mod corect sau nu) - se ajunge la un răspuns (adecvat sau nu)
      Este un subiect care va obliga omenirea să se cunoască mai profund pe sine însăși. Practic pune în discuție cam toate aspectele legate de gândire, liber arbitru, morală, suflet, etc.
      • Like 0


Îți recomandăm

Familia Mirică

„Eu, soția, mama și tata. Mai nou, sora și cumnatul care au renunțat să lucreze într-o firmă mare de asigurări ca să ne ajute cu munca pământului. Au fugit din București și au venit la fermă, pentru că afacerea are nevoie de forțe proaspete. Și cei 45 de angajați ai noștri, pe care-i considerăm parte din familie”. Aceasta este aritmetica unei afaceri de familie care poate fi sursă de inspirație pentru toți tinerii care înțeleg cât de mult a crescut valoarea pământului în lumea în care trăim.

Citește mai mult

Dan Byron

Într-un dialog deschis, așa cum sunt și majoritatea pieselor scrise de el, Daniel Radu, cunoscut mai degrabă ca Dan Byron, a vorbit recent la podcastul „În oraș cu Florin Negruțiu” despre copilăria sa, cântatul pe străzi la vârsta de 16 ani, amintirile mai puțin plăcute de la Liceul Militar de Muzică, dar și despre muzica sa și publicul ei întinerit. (Foto: Cristi Șuțu)

Citește mai mult

RetuRO

Sunt pline rețelele sociale cu postări ale oamenilor care descriu că simt furie, frustrare, neputință, când văd deșeuri în Lacul Roșu sau lacul cu nuferi din Ipoteștii lui Eminescu, în stațiuni montane sau pe litoral. Le vedem peste tot - pe stradă, pe marginea drumurilor naționale, în tren, din tren, pe lângă calea ferată, în grădinile blocurilor, în gropile de gunoi de la marginea satelor, pe albiile pârâurilor și râurilor, în păduri.

Citește mai mult