Sari la continut

Vorbește cu Republica și ascultă editorialele audio

Vă mulțumim că ne sunteți alături de nouă ani Ascultați editorialele audio publicate pe platformă. Un proiect de inovație în tehnologie susținut de DEDEMAN.

Când încrederea devine periculoasă: cum ne pot păcăli prietenii, AI-ul și o floare care nu există

fake news

Într-o lume în care tehnologia poate construi realități convingătoare în câteva secunde, încrederea – acel fundament social care ne leagă – poate deveni punctul nostru slab.

Grupul, liderii și sugestiile „de încredere”

Suntem ființe sociale. Ne naștem, creștem și ne formăm în cadrul unor grupuri care ne modelează identitatea, valorile și comportamentele. Fie că vorbim despre familie, prieteni, colegi de muncă sau comunități online, apartenența la grupuri vine la pachet cu o nevoie adâncă de validare și conformare.

În acest ecosistem social, sugestiile care vin din partea celor pe care îi cunoaștem sau îi admirăm – lideri, influenceri, prieteni – au o greutate enormă. Le primim cu deschidere, le acceptăm fără suspiciune. De multe ori, nici nu le mai trecem prin filtrul gândirii critice. Dacă un om în care avem încredere spune ceva, tindem să credem că acel ceva este adevărat.

De ce încrederea devine vulnerabilitate în era digitală

Comportamentul acesta – firesc și evolutiv – devine însă vulnerabilitate în era tehnologiei avansate. Trăim un moment în care inteligența artificială poate genera texte, imagini, voci, chipuri și povești care imită perfect stilul uman. Diferența dintre realitate și ficțiune devine tot mai greu de sesizat, mai ales când mesajul este livrat într-un context familiar, cald, personal.

În acest peisaj, mecanismul încrederii ne poate duce în eroare. Ne lăsăm convinși nu de adevărul unei informații, ci de sursa care o transmite. Iar dacă sursa este percepută ca fiind „una de-a noastră” – un prieten, o pagină naționalistă cu simboluri familiare, un profil care folosește un limbaj pe care îl recunoaștem – nu mai simțim nevoia să verificăm nimic.

Experimentul „Radu”: o floare imaginară care a devenit reală pentru mulți

Pentru a testa această ipoteză, am realizat un experiment social chiar de Florii. Cu ajutorul ChatGPT, am inventat o floare fictivă, căreia i-am dat numele „Radu”. Am publicat un mesaj prin care îi îndemnam pe oameni să-i felicite pe cei care poartă acest nume, spunând că „Radu” este o floare rară și specială.

Rezultatul? Am primit zeci de mesaje și comentarii, unele de la persoane extrem de serioase, educate, cu funcții în administrație, educație sau business. Nu au pus sub semnul întrebării informația. Au reacționat cu naturalețe. Pentru că mesajul venea de la mine – o persoană în care ei aveau încredere.

Aceasta este esența problemei. Nu e vorba doar despre lipsa de informare. E vorba despre o realitate psihosocială: atunci când o poveste emoțională, aparent autentică, este spusă de cineva în care avem încredere, ea capătă statut de adevăr. Oricât de absurdă ar fi.

Când realitatea se construiește din iluzii credibile

Inteligența artificială poate construi, în câteva secunde, o poveste perfect plauzibilă. Poate crea o identitate, poate redacta un text emoțional, poate produce dovezi vizuale. În mâinile unor actori rău intenționați – sau chiar ale unor oameni naivi – AI devine un multiplicator al minciunii. Iar atunci când acea minciună este transmisă printr-o rețea de încredere, devine aproape imposibil de contestat.

De aceea, problema nu este doar tehnologică. Este socială, psihologică și culturală. Avem nevoie de o nouă cultură a discernământului. De o educație digitală profundă, aplicată, care să ne învețe cum să filtrăm informația, cum să detectăm falsul, cum să ne păstrăm spiritul critic chiar și în fața unor voci familiare.

Nu orice sursă cunoscută spune adevărul. Și nu orice poveste frumoasă este reală.

Experimentul „Radu” a fost o glumă. Dar poate deveni un avertisment serios. Pentru că într-o lume în care oamenii cred într-o floare care nu există doar pentru că „așa a spus cineva cunoscut”, putem ajunge foarte ușor să credem și în idei periculoase, în conspirații, în ideologii toxice – toate livrate de „prieteni”, „lideri” sau pagini care ne vorbesc pe limba noastră.

Încrederea este esențială pentru coeziunea socială. Dar atunci când nu este dublată de gândire critică, poate deveni un vector al manipulării.

Iar inteligența artificială, dacă nu este controlată, reglementată și înțeleasă, poate deveni cea mai eficientă unealtă a minciunii din istoria umanității.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • mg check icon
    ..sună frumos "gândire critică".. Atâta doar că nu este tocmai apanajul publicului țintă al celor care manipulează. Așa că manevra reușește chiar dacă nu toți pun botul.. Iar democrația se duce pe apa sâmbetei..

    Sunt mulți care refuză informația din surse diverse, pentru că nu au încredere decât în cei care le dau cu lingurița "adevărurile" pe care le așteaptă.
    Nu vor decât confirmarea vechilor convingeri, nimic altceva nu e de luat în considerație. Cum lupți cu așa ceva ? Nu poți obliga bătrânica să treacă strada..

    Cât despre controlul AI, s-a ajuns deja la concluzia că self-learning-ul e mai eficient decât învățarea asistată de operator uman. E calea mai rapidă și mai ieftină, iar argumentul ăsta chiar contează, având în vedere că afacerea e destul de scumpă deocamdată..

    Ca urmare AI e ca un copil scăpat pe internet, de unde poate învăța și bune și rele. Oricâte opreliști i-ai pune, tot ajunge la toate..
    Speranța e că vor reuși să impregneze AI cu empatie față de om. Și că-n pofida relelor exemple date de unii reprezentanți ai speciei umane, din cele mai vechi timpuri până în prezent, AI nu va fi prea lesne coruptă la rău..

    Pentru că altfel singura soluție ar fi scoaterea mașinii pe care rulează din priză.. Ori lumea e deja dependentă de rețeaua web. Și nu mă refer la dependența dată de prea mult tiktok, cu sevrajul asociat..
    • Like 0


Îți recomandăm

Vegeterra

Etica muncii e sfântă pentru dl. Szocs Jozsef: „Degeaba ai pământ dacă nu îl muncești”. De altfel, în zonă puține suprafețe de teren zac necultivate. „Pe aici nu prea sunt pământuri lăsate pârloagă”.

Citește mai mult

articol audio
play icon mic icon bani - card

Cu siguranţă că banii sunt o componentă importantă a vieţii curente, nu doar a adulţilor ci şi a adolescenţilor, sau chiar copiilor, începȃnd de la o vȃrstă destul de fragedă. Toţi vedem banii ca sursa de asigurare a traiului de zi cu zi, dar oare este aceasta singura lor funcţie? Cu siguranţă nu, şi pentru că subiectul psihologiei banilor este destul de complex, am decis să îl detaliez, nu în unul, ci într-o serie de articole. foto: Profimedia

Citește mai mult

Guvernul Ciolacu Inquam

România fierbe de un an. A fiert politic, apoi instituțional, bugetar și, în cele din urmă, economic. În doar 12 luni, economia și societatea au intrat într-o spirală a degradării. Iar în centrul acestui haos se află Guvernul Ciolacu — un guvern care a reușit să cheltuiască peste 70 de miliarde de euro în plus, fără să lase urme clare de dezvoltare sau de bunăstare! Foto: Inquam Photos/Octav Ganea

Citește mai mult

Ferma Cernat

În ciuda tuturor costurilor și dificultăților, am simțit la acești oameni o dragoste profundă pentru pământul care ne hrănește pe toți. „Banii au un singur dezavantaj: nu se pot mânca”, râde dl. Moldovan.

Citește mai mult
sound-bars icon