Sari la continut

De opt ani suntem împreună. Vă mulțumim!

Republica împlinește opt ani de existență. Vă mulțumim că ne sunteți alături în această călătorie prin care ne poartă bunul simț, nevoia unei dezbateri de calitate și dorința pentru un loc mai bun în care să ne spunem ideile.

Câte dintre „imaginile wow” din acest articol te vor păcăli? „Ce e cu voi, oameni buni, voi n-ați văzut cum arată o statuie!?” - Radu Oltean, investigator de ocazie al deepfake-urilor de pe rețelele sociale

Radu Oltean

Foto: Radu Oltean, ilustrator și scriitor

Imagini AI cu flori nemaivăzute, animale fantastice, tărâmuri de basm, copii care fac din nisip sculpturi ultra-detaliate, șiruri de bebeluși stând în picioare îmbrăcați în verze și, de ce nu?, Isus în formă de crab au creat în ultimul an și jumătate o irealitate imediată în care unii se încred ca într-o realitate vie.

Postările  pe Facebook de mai sus, care includ imagini generate cu AI fără a specifica acest lucru, au avut între 805.000 și 1,4 milioane de reacții. Printscreen dintr-un raport recent al Universității Stanford.

Platformele Midjourney și DALL-E sunt capabile să producă pe baza textului un conținut vizual cu o mare putere de a fascina. Atunci când sunt folosite într-un mod lipsit de etică, acestea ajung să stea la baza unor imagini înșelătoare, distribuite și redistribuite în neștire pe rețelele de socializare. La nivel internațional, una dintre cele mai vizualizate postări de pe Facebook din trimestrul al III-lea din 2023 a fost o imagine generată cu ajutorul AI, nemarcată ca atare, arată un raport în curs de publicare realizat de cercetătorii de la Stanford și Georgetown University. Studiul, care nu a fost deocamdată recenzat colegial de alți cercetători, a analizat 120 de pagini de Facebook care promovează conținut vizual generat de AI. Potrivit unei raportări trimestriale a Facebook, care dă datele complete pentru primele cele mai populare 20 de postări, imaginea bucătăriei fanteziste fusese văzută până atunci de 40 de milioane de ori și avusese 1,9 milioane de reacții și 273.000 de distribuiri.

Printscreen dintr-un raport  în curs de publicare al Universității Stanford, care atrage atenția că imaginea extrem de populară prezintă indicii că a fost generată de AI.

De multe ori, o astfel de imagine îți apare în feed fără să ai vreo legătură cu persoana sau pagina care a distribuit-o. Odată ce ai interacționat cu ea, algoritmul te hrănește cu postări asemănătoare, care subțiază încet-încet granița dintre adevăr și neadevăr „Bănuim că imaginile generate de inteligență artificială apar în feedurile utilizatorilor deoarece algoritmul de clasare promovează conținut care este probabil să genereze implicare. (...) Comentariile la imaginile generate de AI sugerează că mulți utilizatori nu sunt conștienți de originea lor sintetică, deși un subset de utilizatori postează comentarii sau infografice care îi avertizează pe ceilalți”, se menționează în raportul citat. 

Radu Oltean: „Distribuirea imaginilor false spune multe despre cultura vizuală foarte săracă a oamenilor”

Ilustratorul Radu Oltean, specializat în reconstituire istorică, urmărește de ceva vreme fenomenul pe paginile românești de Facebook.

„Distribuirea imaginilor false spune multe despre cultura vizuală foarte săracă a oamenilor. Am văzut oameni cu pretenții, cu școală, care distribuiau imagini cu copaci sau cu flori fanteziste, dar atât de fanteziste încât și un copil și-ar fi dat seama că nu sunt reale. Toate erau însoțite de texte de genul: uite ce minunății există pe lumea asta, ce de minunății creează Dumnezeu! 

Foto: Facebook via Radu Oltean

Am văzut asta de foarte multe ori. De exemplu, apare periodic un așa-zis pui de păun foarte colorat. Toți puii de păsări, oricât ar fi de colorați ca adulți, sunt foarte terni. Iar ăsta e împodobit cu albastru, e foarte spectaculos și e distribuit de oameni de la care aveam pretenții. 

Foto: Facebook via Radu Oltean

În același fel văd distribuite plante care par luate din Avatar și nu respectă nicio regulă botanică, flori de baobab cât roata carului, când poți să dai o căutare și să vezi cum arată în realitate”, spune ilustratorul. 

„Statuia de secol XIX” care arată ca o divă de pe Insta

Autor al volumelor Cetăți, castele și alte fortificații din România, Geții lui Burebista și lumea lor și Din vremea lui Tudor, apărut recent, Radu Oltean își bazează ilustrațiile pe documente istorice.

Luna trecută el a semnalat pe pagina sa de Facebook un fake cu o așa-zisă statuie de marmură de secol XIX, care arată ca o divă de pe Insta. „Era atât de artificială și atât de ireală, cu niște detalii care nu ar putea fi niciodată făcute în marmură. Era atribuită unui sculptor din secolul XIX, lucru care îi dădea mai multă credibilitate, dar avea un standard de frumusețe extrem de modern, arăta ca o păpușică. Fiica mea de 20 de ani a recunoscut-o imediat ca fiind fake. Și totuși, tot felul de doamne de 55 - 60 de ani erau foarte încântate și avea nesfârșit de multe like-uri. Mă gândeam: Ce e cu voi, oameni buni, voi n-ați văzut cum arată o statuie!?”, spune Radu Oltean.

Foto: Facebook via Radu Oltean

Chipul lui Isus răsărind din orice

Alte imagini false distribuite adesea sunt cele cu Isus, precum chipul lui Isus din căpșuni verzi sau chipul lui Isus conturându-se în mijlocul unei piețe de fructe. 

Foto: Facebook via Radu Oltean

„Imaginile cu chipul lui Isus răsărind din orice vin, pe filiera utraconservatorilor, din SUA, unde au devenit un fenomen foarte, foarte răspândit. Și sunt explicate ca fotografii reale, pe principiul „Isus e peste tot și în orice”. Multe imagini au și indicația: „Închide ochii sau privește printre gene și vei avea o surpriză” Și comentatorii, cu zecile, sunt mirați și șocați: E Isus!! Uauuu!!”, explică Radu Oltean.

Foto: Facebook via Radu Oltean

În raportul realizat de cercetători este prezentată imaginea generată de AI a unui Isus suprarealist, întruchipat drept un crab venerat de alți crabi. Persoana care a distribuit-o pretinde că a făcut-o „cu mâinile ei” și a adunat astfel 209.000 de reacții și 4.000 de comentarii. 

Printscreen dintr-un raport recent al Universității Stanford

O categorie răspândită de imagini false este cea a construcțiilor imposibile, realizate de un singur om. 

Foto: Facebook via Radu Oltean

„Am văzut această imagine distribuită de câțiva români, cu explicația: sculptura în zăpadă făcută de un rus. Și toți o lăudau”, spune Radu Oltean. 

 „Acesta este primul meu tort. Aștept notele voastre”

Pe de altă parte, cercetătorii de la Stanford și de la Georgetown University atrag atenția asupra unui serii de imagini foarte populare de la sfârșitul anului 2023 și începutul anului 2024, din categoria „Acesta este primul meu tort. Aștept notele voastre”. Prezentând copii sau adulți în fața unor prăjituri perfecte, ele nu au nicio legătură cu realitatea, fiind creația inteligenței artificiale.

Printscreen dintr-un raport recent al Universității Stanford.

Pericolele din spatele fake-urilor soft

Sunt aceste fake-uri ușurele generate de AI inofensive? Răspunsul cercetătorilor de la Stanford și Georgetown University este că nu. Ei au grupat paginile care postează conținut vizual generat de AI în trei categorii: spam, înșelătorie și „alți creatori”. 

„Paginile de spam au folosit tactici clickbait și au încercat să direcționeze utilizatorii către ferme de conținut în afara platformei și domenii de calitate scăzută. Paginile de înșelătorie au încercat să vândă produse care nu există sau să determine utilizatorii să divulge detalii personale. Iar unii postau imaginile generate de AI pe pagini furate. Faptul că utilizatorii sunt înșelați de aceste imagini evidențiază importanța etichetării și luarea în avans a măsurilor suplimentare de transparență.

Unele dintre paginile de Facebook pe care le-am studiat au folosit și practici înșelătoare cunoscute, cum ar fi furtul de cont sau preluarea de cont și au prezentat o creștere suspectă a urmăritorilor”, susține studiul citat. 

„Victime facile și pentru deepfake-ul periculos”

Radu Oltean crede că utilizatorii care cad ușor pradă soft fake-ului sunt mult mai predispuși la a cădea pradă și fake-ului cu miză economică sau socială. În era internetului, în care orice informație este la un click distanță, este aproape de necrezut că unii oameni pot considera reală imaginea cu avionul care aruncă praf saharian deasupra României. Însă acest lucru s-a întâmplat deja. 

„E clar că oamenii care nu se prind și nu au un minim „spirit critic” în ceea ce privește acest tip de poze sunt victime facile și pentru deepfake-ul periculos, precum cel care te îndeamnă să cumperi criptomonede. Acestea soft despre care vorbim noi nu sunt neapărat maligne, sunt mai mult clickbait. 

Dacă-s false, atunci de ce îmi zic exact ceea ce credeam și eu?

Poate oamenii se obișnuiesc totuși să recunoască fake-urile. Ceea ce e bine, pe de-o parte. Pe de altă parte, aceiași oameni fără spirit critic se vor obișnui să fie suspicioși cu fake-urile, dar vor deveni suspicioși și cu pozele sau informațiile reale, care le pot infirma sau dezamăgi convingerile. Cele mai răspândite „prejudecăți cognitive” (cognitive bias) le întâlnești la conspiraționiști și religioși. Ei pot să fie contra științei, dacă le infirmă convingerile, dar fac apel la (pseudo)știință pentru a și le confirma. Așa e și cu pozele: Dacă le creează emoții și vin în întâmpinarea credințelor lor, pozele fake AI sunt „reale”. Dacă pozele reale le infirmă convingerile, vor sări în sus că sunt fake. Cum era o caricatură, cu un tată (bătrânel) și un fiu la computer. Fiul: Tată, nu te mai uita la prostiile astea, sunt fake-news!! Tatăl: Dacă-s false, atunci de ce îmi zic exact ceea ce credeam și eu?”, spune ilustratorul. 

Potențialul generatoarelor de imagini în artă

Potrivit lui, generatoarele de imagini precum Midjourney pot fi folosite în mod onorabil chiar și de artiști, cu condiția ca aceștia să recunoască în mod transparent utilizarea lor și să nu preia imaginile ca atare, fără a-și pune asupra lor amprenta personală.

„Am vorbit de curând cu o prietenă, care e profesoară la o universitate de artă din Suedia și care mi-a zis că ei au discuții foarte libere despre AI și despre potențialul care îl are când zona artelor vizuale și care e foarte ok”, explică Radu Oltean. El însuși spune că a încercat să îl folosească, dar a renunțat. 

„Am încercat să-i dau niște prompt-uri, adică niște texte după care să genereze imagini, și am fost destul de nemulțumit de rezultat. Pe de altă parte, mi-am dat seama pentru a scoate ceva cu adevărat interesant, e destul de mult de muncă, fiindcă trebuie să îi dai în permanență, pe marginea unei prime soluții pe care ți-o oferă, noi și noi înformații, să îi ceri alte și alte lucruri. (...)Trebuie să înveți destul de mult, e un instrument complex, dar rezultatul poate să fie foarte spectaculos, mai ales în ceea ce privește imaginile realiste care imită fotografia. Dar trebuie să ai tu în minte ceea ce vrei să-i ceri și să nu-l lași pe el. Cele mai multe prostii pe care le-am văzut pe net  sunt chestii făcute de începători sau de neprofesioniști. Eu urmăresc niște grupuri de pasionați care postează niște minunății, niște chestii extraordinare”, povestește Radu Oltean. „Problema nu este inteligența artificială, ci lipsa de discernământ umană”, adaugă el.

Ce a răspuns ChatGPT când a fost întrebat dacă poate fi folosit în scopuri malefice

OpenAI a lansat modelul ChatGPT-4o multimodal, care poate înțelege text, imagini și voce. Radu Oltean subliniază însă că ar avea nevoie de o caracteristică esențială: un algoritm moral. Nu a putut accesa versiunea nouă, dar i-a pus versiunii vechi o întrebare: dacă poate fi folosită în scopuri malefice. 

„Mi-a zis că da, dar trebuie să fim responsabili, a generat niște răspunsuri destul de neutre: că face apel la educație și la spirit critic. I-am zis: Dar cei care te folosesc sunt răi, n-au cum să aibă spirit critic, se folosesc în scopuri rele de tine. A spus că trebuie să educăm publicul, niște bla bla-uri. De fapt, nu are cum să se opună”,  punctează Radu Oltean.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Marta check icon
    Până una alta, eu reușesc să îmi dau seama ce poze reprezintă ceva real și ce nu. Problema este că AI incepe sa fie utilizată și în arta, și atunci nu am cum să îmi dau seama dacă un pictor sau desenator a imaginat ce postează sau a folosit un program ca sa genereze. Urăsc vremurile în care trăim. Simt că am învățat atâtea lucruri despre lume, abia așteptam să transmit mai departe copiilor, dar nimic nu mai e valabil
    • Like 1
  • Pe mine ma intriga imaginile "reel" care reprezinta filmari ale unor constructii ce par imposibile din China, cum ar fi niste case in varful unui fel de coloana ramasa dupa eroziunea unui varf de munte sau niste poduri care la fel par imposibile au niste vile construite pe un perete de munte la 90 grade si multe altele.
    Intreb: sunt reale aceste "reels", sau creatii ale IA?
    • Like 1


Îți recomandăm

Centrul Pompidou

Francezii anunță, sub patronajul președintelui Emmanuel Macron, deschiderea pe 27 martie a celei mai mari expoziții Brâncuși de până acum, iar un vin românesc a fost ales drept vinul oficial al evenimentului inaugural: Jidvei. (Profimedia Images)

Citește mai mult

Familia Mirică

„Eu, soția, mama și tata. Mai nou, sora și cumnatul care au renunțat să lucreze într-o firmă mare de asigurări ca să ne ajute cu munca pământului. Au fugit din București și au venit la fermă, pentru că afacerea are nevoie de forțe proaspete. Și cei 45 de angajați ai noștri, pe care-i considerăm parte din familie”. Aceasta este aritmetica unei afaceri de familie care poate fi sursă de inspirație pentru toți tinerii care înțeleg cât de mult a crescut valoarea pământului în lumea în care trăim.

Citește mai mult

Dan Byron

Într-un dialog deschis, așa cum sunt și majoritatea pieselor scrise de el, Daniel Radu, cunoscut mai degrabă ca Dan Byron, a vorbit recent la podcastul „În oraș cu Florin Negruțiu” despre copilăria sa, cântatul pe străzi la vârsta de 16 ani, amintirile mai puțin plăcute de la Liceul Militar de Muzică, dar și despre muzica sa și publicul ei întinerit. (Foto: Cristi Șuțu)

Citește mai mult