Sari la continut
Republica
Comunicare

Regulamentul UE privind inteligența artificială, explicat pe înțelesul tuturor. Nu este permisă utilizarea AI pentru a estima probabilitatea ca o persoană să comită o infracțiune doar pe baza caracteristicilor personale

Imagine sugestivă cu inteligența artificială. Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia

Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia

Să vorbim puțin despre textul final al Legii europene privind inteligența artificială, care a fost aprobat de țările membre ale UE: Ce conține? Păi actul are ca scop să țină în frâu această tehnologie, a cărei influență crește pe zi ce trece. Noile norme sunt acum pe cale să fie aprobate în aprilie și ar putea intra în vigoare în cursul acestui an.

Comisia Europeană a propus Legea privind inteligența artificială în 2021 pentru a stabili norme nu doar pentru această tehnologie, ci și pentru utilizarea ei în scenarii în care ar putea avea consecințe grave pentru public.

Cu alte cuvinte, un instrument de inteligență artificială care generează adăugiri pe o poză de pe Instagram nu are nevoie de reglementare. Dar sistemele de inteligență artificială utilizate pentru a selecta candidații pentru admiterea la universități au cu siguranță nevoie de reglementare.

Articolul 5 din Legea privind IA prezintă cazurile de utilizare care sunt interzise în mod categoric. Între timp, UE a creat norme pentru așa-numita inteligență artificială de uz general pentru a aborda creșterea rapidă a unor sisteme precum ChatGPT de la OpenAI, care nu au o utilizare specifică și ar putea fi folosite pentru a genera orice, de la rețete la propagandă.

După cum bine explică și Politico Europe, articolul 5 din Legea privind inteligența artificială stabilește ce utilizări ale inteligenței artificiale sunt interzise. Printre acestea se numără cele care vizează influențarea comportamentului, cum ar fi tehnicile subliminale, manipulatoare sau înșelătoare asistate de IA sau utilizarea IA pentru a exploata vulnerabilitățile unei persoane sau ale unui grup.

De asemenea, nu este permisă nici utilizarea informațiilor biometrice pentru a stabili rasa, orientarea sexuală, convingerile sau apartenența sindicală a unei persoane. Nu este permis nici scorul social, care presupune urmărirea comportamentului unei persoane într-un mod care ar putea duce la un tratament nefavorabil într-o situație fără legătură cu aceasta - de exemplu, refuzarea accesului la un serviciu public din cauza consumului de droguri în trecut.

Este interzisă utilizarea recunoașterii faciale în timp real (cunoscută și sub numele de identificare biometrică la distanță) în locurile publice. Există însă și excepții: Forțele de ordine vor putea în continuare să folosească această tehnologie în cazul investigării infracțiunilor grave sau al căutării persoanelor dispărute, atât timp cât au autorizația unui judecător.

Nu este permisă utilizarea IA pentru a estima probabilitatea ca o persoană să comită o infracțiune doar pe baza caracteristicilor personale.

Instrumentele de inteligență artificială nu pot fi utilizate nici pentru a crea baze de date de imagini faciale prin extragerea de imagini de pe internet sau de pe înregistrările video ale camerelor de supraveghere.

Mai este interzisă și utilizarea instrumentelor de inteligență artificială pentru a deduce emoțiile unei persoane la locul de muncă sau într-un mediu educațional este interzisă.

Mai trebuie precizat că creatorii de sisteme de inteligență artificială utilizate în scenarii de „risc ridicat” trebuie să respecte practicile de guvernanță a datelor, inclusiv colectarea etică a seturilor de date pentru instruire și asigurarea faptului că acestea sunt reprezentative și cât mai puțin părtinitoare posibil.

De asemenea, aceștia trebuie să redacteze documentația tehnică a funcționalității IA și a măsurilor de gestionare a riscurilor, să păstreze o evidență a utilizării IA pentru a ajuta la monitorizarea incidentelor, să se asigure că utilizarea IA poate fi supravegheată de persoane reale și să garanteze niveluri adecvate de acuratețe, robustețe și securitate cibernetică.

Totodată, orice persoană care implementează sisteme de inteligență artificială cu risc ridicat va trebui să efectueze o evaluare a modului în care instrumentul ar putea afecta drepturile fundamentale prevăzute de legislația UE.

Practic, sistemele de inteligență artificială cu risc ridicat vor fi probabil considerate conforme dacă respectă standardele și specificațiile stabilite de Comisia Europeană și de organizațiile care stabilesc standarde.

Domeniile considerate cu risc ridicat includ biometria și recunoașterea facială, atunci când nu sunt interzise în mod explicit în conformitate cu articolul 5, componentele infrastructurii critice, educația și locul de muncă, precum și accesul la servicii publice, beneficii sau servicii private esențiale, cum ar fi serviciile bancare și de asigurări. Utilizarea sistemelor de inteligență artificială legate de aplicarea legii, migrație, justiție și alegeri se califică, de asemenea, ca fiind de risc ridicat.

Normele Legii privind inteligența artificială vizează „modelele” de uz general care stau la baza instrumentelor de IA, nu aplicațiile care se adresează clienților. Adică arhitectura software integrată în produsele diferiților furnizori.

Dezvoltatorii acestor modele (cum ar fi cele care alimentează ChatGPT sau Bard de la Google) vor trebui să păstreze o documentație tehnică detaliată, să ajute companiile sau persoanele care își implementează modelele să înțeleagă funcționalitatea și limitele instrumentelor, să furnizeze un rezumat al materialului protejat prin drepturi de autor (cum ar fi textele sau imaginile) utilizat pentru a antrena modelele, dar și să coopereze cu Comisia Europeană și cu autoritățile naționale de aplicare a legii atunci când este vorba de respectarea regulamentului.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Am urmat adresa la care faceţi trimitere şi am constatat că textul dumneavoastră este doar o traducere în limba română a unui articol publicat în POLITICO sub titlul „The EU’s artificial intelligence rulebook, explained”. Cu această precizare trebuia să începeţi.. Altfel, cititorii vor înţelege (cazul meu) că sunteţi cel care explică, pe înţelesul tuturor, regulamentul UE privind AI. Ca urmare, nu e "...După cum bine explică și Politico Europe...", ci, simplu, după cum explică, bine sau rău, doar textul din POLITICO (secţiunea Europe). Dumneavoastră nu contribuiţi în niciun fel la aceste explicaţii.
    Modul în care faceţi trimitere la POLITICO sugerează mai degrabă că ideile de acolo vă susţin afirmaţiile. Traducerile sunt utile, dar rămân doar traduceri, nu sunt contribuţii (exceptând cazuri foarte rare, în care sunt implicate manuscrise sau documente de importante).
    Acest lucru m-a dezamăgit. Am urmărit cu interes textele dumneavoastră, mi s-au părut interesante şi am presupus de fiecare dată că ideile din ele vă aparţin.
    • Like 0
  • Ion check icon
    Eu as fi permis să fie folosită la potențialul maxim și chiar antrenată pe pe cei ce încă nu sunt cetățeni UE sau care vor sa devină rezidenți și mai apoi cetățeni. Dacă vrei să devii european, de voie sau de nevoie trebuie să știi că o perioadă o să ai mai puține drepturi!
    • Like 1


Îți recomandăm

Green Steps

100.000 de români au participat la marcarea a 100 de kilometri din traseul Via Transilvanica într-un mod ingenios. „Drumul care unește”, este un traseu turistic de lungă distanță, care traversează România pe diagonală, de la Putna la Drobeta Turnu Severin și este destinat drumeției pe jos, cu bicicleta sau călare. Via Transilvanica este semnalizată cu marcaje vopsite și stâlpi indicatori. Pe parcursul drumeției, călătorii vizitează ceea ce constructorii spun că este cea mai lungă galerie de artă din lume, pentru că la fiecare kilometru se găsește o bornă din andezit sculptată individual.

Citește mai mult

Testat e Hot

Vreau să vă arăt azi un program inedit de educație la firul ierbii: el începe chiar pe pajiștea a două festivaluri care atrag în fiecare an zeci de mii de tineri și își propune să fie un fel de curs introductiv într-o materie pe care școala românească se jenează să o predea.

Citește mai mult

BT Go

Într-o eră în care tehnologia avansează rapid, IMM-urile sunt nevoite să adopte rapid inovații digitale pentru a rămâne competitive și a profita de oportunitățile de pe piață. Serviciile care simplifică birocrația permit antreprenorilor să se concentreze pe inovație și dezvoltarea afacerilor lor.

Citește mai mult