Foto: Ivan Ryabokon / Panthermedia / Profimedia
„Deepfake”, un cuvânt care a devenit extrem de popular în ultimii doi ani, odată cu dezvoltarea tot mai mare a inteligenței artificiale. Un deepfake este un tip de conținut digital, de obicei video sau audio, care a fost generat cu ajutorul inteligenței artificiale și care imită fizionomia sau vocea unei persoane. Iar acestea devin din ce în ce mai greu de distins de cele reale. Algoritmii avansați de învățare automatizată din prezent pot manipula imagini, înregistrări audio și video într-un mod care face ca deepfake-urile rezultate să fie convingător de realiste.
Tehnologia aceasta este promițătoare pentru diverse utilizări, cum ar fi crearea de dubluri digitale în filme sau furnizarea de asistență personalizată pentru studenți. Dar a stârnit preocupări majore în ceea ce privește dezinformarea, furtul de identitate și erodarea încrederii în peisajul informațional digital, după cum arată o analiză a jurnaliștilor de investigație britanici.
Tehnologia aceasta de schimb de fețe, care există de peste un deceniu, permite utilizatorilor să înlocuiască fața unei persoane cu cea a altei persoane. Iar acest lucru poate crea iluzia că cineva spune sau face ceva ce nu a făcut niciodată. Iar genul acesta de deepfake este larg răspândit pe rețelele sociale și utilizat mai ales de rețelele de propagandă și dezinformare.
Slovacia este un exemplu. Anul trecut, cu două zile înainte de alegerile generale, un clip audio falsificat cu vocea lui Michal Šimečka, liderul partidului liberal slovac, a circulat pe rețelele sociale. Clipul sugera în mod fals că politicianul ar fi cumpărat voturi de la minoritatea romă slovacă în încercarea de a manipula alegerile. Rezultatul: Michal Šimečka a pierdut alegerile.
Tehnologia audio deepfake se află la un nivel de sofisticare care face dificilă detectarea. Pe de altă parte, videoclipurile deepfake încă mai au probleme cu anumite caracteristici umane, cum ar fi reprezentarea mâinilor. Dar tehnologia este încă în proces de dezvoltare, se arată într-o analiză a The Conversation.
Experții mai atrag atenția că tehnologia de tip deepfake ar putea fi folosită pentru a hărțui și abuza femeile și fetele. Acest tip de hărțuire sexuală se încadrează într-un model existent de abuz care limitează participarea politică a femeilor. Dificultatea constă în faptul că încă nu este clar ce impact ar putea avea tehnologia deepfake asupra alegerilor.
UE vrea să proteja alegerile europene de deepfake
Luna aceasta, Uniunea Europeană a cerut marilor companii din domeniul tehnologiei să dea o mână de ajutor în ceea ce privește securizarea viitoarele alegeri din iunie, pe fondul temerilor legate de dezinformare și de amenințările de hacking online.
Marile platforme online, precum Facebook, X, YouTube sau TikTok, vor trebui să își intensifice eforturile pentru a lupta împotriva dezinformării înaintea alegerilor din blocul comunitar, în temeiul noii legi europene privind moderarea conținutului, Legea privind serviciile digitale (DSA).
Potrivit Politico Europe, giganții rețelelor sociale vor trebui să împiedice ca dezinformarea să devină virală. Comisia Europeană a stabilit măsuri specifice pentru a evita riscul de dezinformări bazate pe inteligența artificială generativă, în special prin etichetarea clară a deepfakes-urilor.
Conform World Economic Forum, dezinformarea este considerată un risc global de top în 2024, iar videoclipurile de tip deepfake reprezintă una dintre cele mai îngrijorătoare utilizări ale inteligenței artificiale.
Deepfake-urile utilizate de chatboți și avataruri de inteligență artificială multi-model în timp real vor permite tipuri de manipulare extrem de personalizate și eficiente. Realitatea e că natura descentralizată a internetului, variațiile în legile internaționale privind confidențialitatea și evoluția constantă a AI indică faptul că este foarte dificil, dacă nu imposibil, să împiedici utilizarea deepfake-urilor rău intenționate, mai explică World Economic Forum.
Nu există o abordare de tip „glonțul de argint” în atenuarea eficientă a amenințării deepfake-urilor în spațiile digitale. Mai degrabă este necesară o abordare pe mai multe straturi, care constă într-o combinație de mijloace tehnologice și de reglementare, împreună cu o conștientizare sporită a publicului. Acest lucru necesită o colaborare globală între guverne, companii și societatea civilă, precum și voință politică semnificativă.
Între timp, oamenii ar trebui să pună sub semnul întrebării tot ceea ce văd sau aud pe internet, căci astfel își vor consolida o atitudine proactivă față de securitatea cibernetică, se mai arată în analiza World Economic Forum. Prin urmare, indivizii, cât și organizațiile trebuie să rămână mereu vigilenți în fața înșelăciunii digitale, pe măsură ce granițele dintre lumea fizică și cea virtuală continuă să se estompeze.
Ghid DNSC care te ajută să eviți să fii păcălit de deepfake-uri
În România, Directoratul Național de Securitate Cibernetică (DNSC) a lansat luni ghidul privind identificarea materialelor de tip deepfake. Acest ghid reprezintă un instrument esențial pentru înțelegerea și abordarea provocărilor asociate cu fenomenul deepfake, având ca obiectiv principal protejarea și educarea publicului cu privire la conștientizarea riscurilor de securitate cibernetică.
Deepfake, o definiție: Deepfake este o manipulare digitală a unei înregistrări video, audio sau a unei imagini, realizată cu ajutorul inteligenței artificiale sau a altor programe specializate.
Un exemplu: Există multiple cazuri în care un videoclip cu o personalitate publică oferă sfaturi financiare. În acest videoclip, persoana recomandă insistent investiția într-o anumită companie sau afacere, promițând profituri mari și riscuri minime.
Detaliile contează: Videoclipul este realizat profesional, cu o calitate a imaginii și sunetului ridicată. Persoana publică pare sinceră și convingătoare, folosind un limbaj accesibil și argumente persuasive.
Scopul campaniei: Un astfel de Deepfake ar putea fi folosit pentru a manipula populația să investească într-o afacere ilicită (scam1), deținută sau controlată de manipulatori.
Impact: Videoclipul este distribuit rapid pe rețelele de socializare, cu un potențial uriaș de a fi vizionat de milioane de oameni. Mulți dintre cei care văd videoclipul ar putea fi convinși să investească în afacerea recomandată, riscând ulterior să piardă sume semnificative de bani.
De ce este important să înțelegem deepfake-urile
În ghidul DNSC se mai indică faptul că înțelegerea deepfake-urilor este crucială, având implicații semnificative în societate, politică, securitate cibernetică și în manipularea încrederii publice.
Impact asupra adevărului și încrederii: Deepfake-urile pot distorsiona realitatea, creând conținut video sau audio extrem de realist, care poate fi greu de distins de materialele autentice. Aceasta poate submina încrederea în mass-media și în informațiile pe care ne bazăm pentru a lua decizii informate.
Securitate și fraude: Tehnologia Deepfake poate fi folosită pentru a crea înregistrări false care implică persoane în activități pe care nu le-au realizat sau pentru a produce dovezi false în contexte juridice. De asemenea, poate fi utilizată în tentative de fraudă, cum ar fi falsificarea identității în apeluri telefonice sau video pentru a obține acces neautorizat la informații sau resurse financiare.
Manipulare și dezinformare: În politică și în alte domenii, Deepfake-urile pot fi folosite pentru a manipula opinia publică, a discredita adversarii sau a crea confuzie. Acestea pot influența alegerile, relațiile internaționale și pot alimenta teorii ale conspirației.
Impact social și etic: Utilizarea imorală a tehnologiei Deepfake, pentru crearea de materiale compromițătoare sau hărțuirea online, ridică probleme serioase de etică și respectare a drepturilor individuale.
Pregătire pentru viitor: Pe măsură ce tehnologia continuă să avanseze, este probabil ca Deepfake-urile să devină tot mai sofisticate și mai greu de detectat. Înțelegerea modului în care funcționează și a modalităților de a le identifica este esențială pentru dezvoltarea de tehnologii și strategii care să contracareze utilizarea lor rău intenționată.
Educație și conștientizare: Educația publicului despre existența și capacitatea Deepfake-urilor poate ajuta la atenuarea impactului lor prin creșterea scepticismului sănătos față de conținutul dubios și încurajarea verificării informațiilor din surse multiple.
Pentru toate aceste motive, este important să dezvoltăm un nivel colectiv de înțelegere a deepfake-urilor și a potențialului lor de a afecta societatea. Acest lucru ne va permite să navigăm într-o lume digitală tot mai complexă cu discernământ și o mai mare precauție, se mai arată în ghidul Directoratul Național de Securitate Cibernetică.
Procesul de creare a unui deepfake
Colectarea datelor: Pentru a crea un Deepfake convingător, este necesară o cantitate mare de date pentru antrenament care să includă imagini și videoclipuri capturate din diferite unghiuri și în diverse situații. Cu cât datele sunt mai variate și de calitate mai bună, cu atât Deepfake-ul va fi mai realist.
Antrenarea modelului: Utilizând datele colectate, algoritmi de IA și ML sunt antrenați pentru a identifica și învăța caracteristicile unice ale persoanei țintă, cum ar fi trăsăturile faciale, expresiile și modul în care se mișcă sau vorbește. Scopul acestei faze este de a permite modelului să reproducă aceste detalii cu o precizie cât mai mare.
Generarea deepfake: După ce modelul este suficient antrenat, este folosit pentru a crea conținut falsificat, în care persoana țintă spune sau întreprinde acțiuni neadevărate. Etapa implică generarea de imagini sau secvențe video artificiale, dar extrem de realiste, utilizând capabilitățile modelului antrenat.
Manipularea detaliilor: Pentru a spori autenticitatea și credibilitatea Deepfake-ului, detaliile fine sunt ajustate meticulos. Aceasta include sincronizarea mișcărilor buzelor cu conținutul audio falsificat, corectarea expresiilor faciale pentru a se potrivi cu contextul generat și finisarea altor detalii minore care contribuie la realismul general al conținutului.
Distribuirea: deepfake-ul final poate fi distribuit online prin intermediul rețelelor sociale, al platformelor de sharing video sau chiar prin mesagerie. Intenția distribuirii poate fi de a înșela, de a discredita o persoană sau de a manipula opinia publică.
Sfaturile DNSC pentru a evita să fii păcălit de deepfake-uri
- Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real.
- Caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul.
- Verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere? Caută confirmarea informației din surse credibile sau direct de la entitățile sau persoanele implicate.
- Folosește instrumente de verificare: Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală. Utilizează-le pentru a cerceta autenticitatea conținutului suspect.
- Nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile.
- Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.
- Învață despre deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.
Ce să faci dacă ești victima unui deepfake
Dacă te afli în situația neplăcută de a fi victima unui Deepfake, este important să acționezi rapid și eficient pentru a minimiza daunele. Iată câțiva pași pe care îi poți urma:
Documentează abuzul: Salvează copii ale conținutului Deepfake, inclusiv URL-uri, capturi de ecran, sau orice altă formă de dovezi care ar putea fi relevante. Acest lucru este esențial pentru orice demersuri legale sau raportări ulterioare.
Raportează conținutul: Majoritatea platformelor de socializare și site-urilor web au politici stricte împotriva Deepfake-urilor și a conținutului manipulat. Utilizatorii pot semnala cu ușurință conținutul suspect folosind funcția de raportare integrată a platformei.
Contactează autoritățile: În cazuri grave, unde conținutul Deepfake încalcă legile privind defăimarea, hărțuirea sau distribuția de materiale pornografice fără consimțământ, poate fi necesar să contactezi autoritățile locale sau alte organisme de aplicare a legii.
Solicită ajutor juridic: Consultă un avocat pentru a evalua opțiunile legale disponibile pentru tine. Aceasta poate include acțiuni legale împotriva celor care au creat sau distribuit conținutul Deepfake.
Folosește servicii de gestionare a reputației online: Există companii specializate în îmbunătățirea prezenței online și în eliminarea sau diminuarea impactului conținutului negativ. Aceste servicii pot fi utile pentru a-ți proteja imaginea pe termen lung.
Comunică cu transparență: Dacă Deepfake-ul are potențialul de a-ți afecta cariera sau relațiile personale, ia în considerare să vorbești deschis despre situație cu angajatorul, colegii sau persoanele apropiate. Oferirea contextului și a versiunii tale poate ajuta la diminuarea impactului negativ.
Protejează-ți informațiile personale: În urma unui incident Deepfake, este important să fii mai precaut în ceea ce privește securitatea online. Verifică setările de confidențialitate pe rețelele sociale, schimbă parolele și monitorizează activitatea conturilor tale pentru semne de acces neautorizat.
Suport emoțional: Trauma psihologică suferită de victima unui Deepfake poate fi semnificativă. Nu ezita să cauți sprijin din partea prietenilor, familiei sau a profesioniștilor în sănătate mintală.
Educație și conștientizare: Ajută la creșterea gradului de conștientizare despre pericolele Deepfake-urilor prin împărtășirea experienței tale, dacă te simți confortabil. Acest lucru poate ajuta la informarea și protejarea altora.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.