Foto: Hugo Gonçalves/ Panthermedia/ Profimedia
Inteligența artificială revoluționează modul în care este creat și consumat conținutul, dar această inovație vine cu riscuri semnificative, în special în contextul alegerilor.
Capacitatea AI de a produce informații convingătoare, dar false, reprezintă o amenințare serioasă la adresa integrității electorale și a proceselor democratice. În acest articol, voi evidenția și analiza cum poate influența AI o campanie electorală în România, dar și cum în alte țări au existat dezinformări cauzate tot de tehnologie.
O sarcină extrem de dificilă a echipelor de comunicare din cadrul campaniilor electorale a fost, de-a lungul timpului, profilarea votantului. Datorită bazelor de date, Inteligența Artificială poate crea profiluri detaliate ale votanților bazate pe demografice, pe comportamentul în cadrul rețelelor sociale și chiar din alte surse publice. Înțelegerea mai bună a tipurilor de votanți ajută echipele de campanie să genereze mesaje personalizate și să le difuzeze direct către grupurile cu un impact major. Mai exact, AI-ul are capacitatea de a culege informații astfel încât să profileze cât mai bine oamenii cu drept de vot și să îi ”pună pe căprării” astfel încât mesajul electoral să fie unul potrivit grupului. Inteligența artificială are capacitatea de a personaliza conținutul în funcție de profilul utilizatorului, ceea ce duce la crearea unor „bule de informații”. Alegătorii pot fi expuși în mod repetat la informații care confirmă propriile lor convingeri, reducând diversitatea opiniilor la care sunt expuși. Această personalizare excesivă poate polariza societatea și influența deciziile electorale într-un mod care subminează o democrație sănătoasă.
Mergând și mai departe, campaniile publicitare sunt optimizate tot datorită AI, ajustând automat conținutul și frecvența pe baza performanței. De exemplu, reclamele se ajustează pentru a mări raza de acțiune sau interacțiunile cu un anumit grup-țintă, reducând costurile și creșterea impactului. În plus, fiecare candidat are acum chatbot care interacționează automatizat cu alegătorii care au diferite întrebări sau, mai mult decât atât, inițiază conversații, trimițând oamenilor mesaje cu conținut electoral.
În 2024, dacă este folosită corect, Inteligența Artificială a ajuns la un nivel la care poate să analizeze sentimentele votanților și să monitorizeze opinia publică reușind să afle percepțiile publicului față de candidați, din datele furnizate de rețelele sociale. Aceste analize pot ajuta echipele de campanie să ajusteze rapid strategiile în funcție de feedback-ul în timp real și de reacțiile publicului la diferite mesaje.
Amplificarea dezinformării
Însă, la fel ca în orice duel politic, asta nu înseamnă că toată lumea încearcă să își apere corect șansele. Așa că se apelează la tot felul de tertipuri, pentru că așa a fost românul învățat să gândească: nu contează cum câștigi, atâta vreme cât câștigi. Nu contează cum o faci. Dar de fapt, contează.
Instrumentele de inteligență artificială, cum ar fi ChatGPT și DALL-E, pot produce conținut fals de înaltă calitate, fie că este vorba de text, imagini sau videoclipuri. Această capacitate poate fi exploatată pentru a crea și răspândi dezinformări, ceea ce face din ce în ce mai dificil pentru alegători să facă diferența între informațiile reale și cele fabricate. Impactul potențial asupra opiniei alegătorilor și a rezultatelor alegerilor este alarmant. Actorii politici, inclusiv guvernele, folosesc acum inteligența artificială pentru a manipula sentimentele publice. De la videoclipuri deepfake care imită figuri politice până la propagandă generată de AI, aceste instrumente pot modela percepția publică și pot eroda încrederea în instituțiile democratice. Această manipulare subminează integritatea procesului electoral.
Totodată, dezinformarea generată de AI este adesea sofisticată și dificil de detectat. Modelele actuale de AI sunt concepute pentru a genera conținut plauzibil, nu pentru a verifica veridicitatea acestuia. Acest lucru face ca dezinformarea generată de AI să fie mai greu de identificat pentru verificatorii de fapte și pentru sistemele de detectare, permițând narațiunilor false să se amestece cu cele reale.
Așa cum spuneam și mai sus, modelele de AI sunt adesea instruite pe date disponibile public, iar multe surse de înaltă calitate blochează accesul acestor modele la conținutul lor. Aceasta înseamnă că AI se bazează pe surse mai puțin credibile, crescând probabilitatea de a produce conținut părtinitor sau fals, ceea ce poate afecta negativ opinia publică și procesul electoral.
Instrumentele de AI permit automatizarea campaniilor de dezinformare la o scară fără precedent. Generarea automată de conținut fals și distribuirea acestuia pe platformele de social media pot avea un impact rapid și extins asupra percepțiilor alegătorilor. Această automatizare face ca eforturile de combatere a dezinformării să fie și mai dificile.
Și cine e de vină pentru asta?
Lipsa clarității în ceea ce privește responsabilitatea pentru conținutul produs de AI reprezintă o altă provocare majoră. Această ambiguitate face dificilă tragerea la răspundere a celor care utilizează tehnologia pentru a submina integritatea alegerilor, ceea ce adâncește problemele de reglementare și aplicare a legii. Amplificarea dezinformării Instrumentelor deinteligență artificială, cum ar fi ChatGPT și DALL-E, pot produce conținut fals de înaltă calitate—fie că este vorba de text, imagini sau videoclipuri. Această capacitate poate fi exploatată pentru a crea și răspândi dezinformări, ceea ce face din ce în ce mai dificil pentru alegători să facă diferența între informațiile reale și cele fabricate. Impactul potențial asupra opiniei alegătorilor și a rezultatelor alegerilor este alarmant. Însă este suficient ca doar o singură parte să se folosească de arma Inteligenței Artificiale pentru ca și celelalte să o copieze.
Manipularea percepțiilor prin „deepfakes”
Tehnologia „deepfake” este folosită pentru a crea conținut video sau audio extrem de realist, care poate părea autentic. Aceasta poate fi utilizată pentru a denatura realitatea, să discrediteze candidați sau să manipuleze opinia publică într-un mod foarte convingător, afectând astfel deciziile de vot și integritatea procesului electoral.
Totodată, dezinformarea continuă și diseminarea de mesaje false prin AI pot descuraja cetățenii să participe la alegeri, fie din cauza neîncrederii în candidați, fie din cauza sentimentului de confuzie și deziluzie cu privire la procesul electoral. Această scădere a participării poate avea efecte negative asupra reprezentativității și legitimității procesului democratic.Răspândirea dezinformării generate de AI creează un climat de neîncredere. Când alegătorii sunt bombardați cu narațiuni conflictuale sau false, aceștia pot pierde încrederea atât în sistemul electoral, cât și în sursele de informații de încredere. Această eroziune a încrederii reprezintă unul dintre cele mai mari riscuri pe termen lung pentru instituțiile democratice.
Capacitatea AI de a imita candidați, de a fabrica evenimente și de a răspândi mesaje polarizante poate destabiliza procesul electoral. Alegătorii pot fi induși în eroare, iar acest lucru poate duce la opinii distorsionate sau chiar la apatie electorală, ceea ce, la rândul său, afectează participarea la vot și slăbește angajamentul democratic.
Ce soluții avem pentru a combate deepfake-ul?
Pentru a aborda aceste provocări, trebuie actualizate cadrele de reglementare pentru a include ghiduri privind utilizarea AI în contexte publice și politice. Aceste reguli ar trebui să se concentreze pe transparență, responsabilitate și prevenirea utilizării abuzive a AI în alegeri.
Apoi, dezvoltarea de instrumente avansate de detectare este esențială pentru identificarea și combaterea dezinformării generate de AI în timp real. Modelele de învățare automată și sistemele de AI care se concentrează pe identificarea conținutului sintetic pot ajuta verificatorii de fapte și platformele să abordeze eficient dezinformarea. Și nu în ultimul rând, creșterea gradului de conștientizare publică cu privire la capacitățile și riscurile AI este iarăși un alt pas important. Educația publicului privind identificarea conținutului generat de AI poate face ca oamenii să fie mai rezistenți la campaniile de dezinformare.
Intersecția dintre AI și alegeri este locul în care tehnologia se întâlnește cu democrația. Potențialul inteligenței artificiale este imens, dar la fel sunt și riscurile dacă nu sunt controlate. Trebuie să luăm măsuri proactive prin reglementări, tehnologii de detectare și educație pentru a ne asigura că AI întărește, mai degrabă decât să submineze, procesele noastre democratice.
Am pregătit câteva exemple de dezinformare din lumea reală:
Estonia
În timpul alegerilor, o afirmație falsă s-a răspândit pe rețelele sociale, sugerând că alegătorii ar trebui să aducă propriile pixuri la secțiile de votare, deoarece cele oferite erau „ștergătoare” și ar putea altera voturile.
Turcia
O poveste dezinformatoare susținea că un deputat german ar fi declarat că o moschee din Istanbul va fi demolată dacă președintele Erdogan nu va fi reales. Scopul a fost să se erodeze încrederea în procesul electoral.
Franța
Înaintea alegerilor prezidențiale, grupuri extremiste din Franța au răspândit dezinformări împotriva vaccinării și restricțiilor COVID-19, promovând teorii ale conspirației pentru a crea neîncredere în instituții.
Germania
În Germania, grupurile de extremă dreaptă au propagat narațiuni despre fraude electorale, preluate de la mișcările de negare a alegerilor din SUA, pentru a submina procesele democratice.
Moldova
Președinta Maia Sandu a fost ținta unor deepfake-uri care o prezentau susținând un partid prorus, cu scopul de a submina guvernul său pro-occidental.
Slovacia
Campaniile de dezinformare din Slovacia au inclus clipuri audio generate de IA, în care lideri politici păreau să discute despre manipularea alegerilor. Acestea au fost distribuite pe scară largă înainte de a fi dezmințite.
Spania
În alegerile din 2023, au circulat povești false despre interferențe străine și fraude electorale, incluzând afirmații că oficialii UE făceau campanie pentru anumiți candidați.
Brexit
În campania pentru Brexit, au fost folosite articole și postări generate de AI pentru a induce în eroare publicul cu privire la consecințele ieșirii Marii Britanii din Uniunea Europeană, contribuind la polarizarea electoratului.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
Acum pot să mă întreb dacă, de exemplu, toate elucubrațiile lui Georgescu au fost reale sau generate de AI.
Nu că ar mai conta, sper că în motivația CCR de anulare a alegerilor prezidențiale să apară frauda lui CG care a cheltuit cel puțin un milion de euro din surse obscure, declarând oficial că a avut 0 lei cheltuiți.