Sari la continut
Republica
Comunicare

Regulamentul UE privind inteligența artificială, explicat pe înțelesul tuturor. Nu este permisă utilizarea AI pentru a estima probabilitatea ca o persoană să comită o infracțiune doar pe baza caracteristicilor personale

Imagine sugestivă cu inteligența artificială. Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia

Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia

Să vorbim puțin despre textul final al Legii europene privind inteligența artificială, care a fost aprobat de țările membre ale UE: Ce conține? Păi actul are ca scop să țină în frâu această tehnologie, a cărei influență crește pe zi ce trece. Noile norme sunt acum pe cale să fie aprobate în aprilie și ar putea intra în vigoare în cursul acestui an.

Comisia Europeană a propus Legea privind inteligența artificială în 2021 pentru a stabili norme nu doar pentru această tehnologie, ci și pentru utilizarea ei în scenarii în care ar putea avea consecințe grave pentru public.

Cu alte cuvinte, un instrument de inteligență artificială care generează adăugiri pe o poză de pe Instagram nu are nevoie de reglementare. Dar sistemele de inteligență artificială utilizate pentru a selecta candidații pentru admiterea la universități au cu siguranță nevoie de reglementare.

Articolul 5 din Legea privind IA prezintă cazurile de utilizare care sunt interzise în mod categoric. Între timp, UE a creat norme pentru așa-numita inteligență artificială de uz general pentru a aborda creșterea rapidă a unor sisteme precum ChatGPT de la OpenAI, care nu au o utilizare specifică și ar putea fi folosite pentru a genera orice, de la rețete la propagandă.

După cum bine explică și Politico Europe, articolul 5 din Legea privind inteligența artificială stabilește ce utilizări ale inteligenței artificiale sunt interzise. Printre acestea se numără cele care vizează influențarea comportamentului, cum ar fi tehnicile subliminale, manipulatoare sau înșelătoare asistate de IA sau utilizarea IA pentru a exploata vulnerabilitățile unei persoane sau ale unui grup.

De asemenea, nu este permisă nici utilizarea informațiilor biometrice pentru a stabili rasa, orientarea sexuală, convingerile sau apartenența sindicală a unei persoane. Nu este permis nici scorul social, care presupune urmărirea comportamentului unei persoane într-un mod care ar putea duce la un tratament nefavorabil într-o situație fără legătură cu aceasta - de exemplu, refuzarea accesului la un serviciu public din cauza consumului de droguri în trecut.

Este interzisă utilizarea recunoașterii faciale în timp real (cunoscută și sub numele de identificare biometrică la distanță) în locurile publice. Există însă și excepții: Forțele de ordine vor putea în continuare să folosească această tehnologie în cazul investigării infracțiunilor grave sau al căutării persoanelor dispărute, atât timp cât au autorizația unui judecător.

Nu este permisă utilizarea IA pentru a estima probabilitatea ca o persoană să comită o infracțiune doar pe baza caracteristicilor personale.

Instrumentele de inteligență artificială nu pot fi utilizate nici pentru a crea baze de date de imagini faciale prin extragerea de imagini de pe internet sau de pe înregistrările video ale camerelor de supraveghere.

Mai este interzisă și utilizarea instrumentelor de inteligență artificială pentru a deduce emoțiile unei persoane la locul de muncă sau într-un mediu educațional este interzisă.

Mai trebuie precizat că creatorii de sisteme de inteligență artificială utilizate în scenarii de „risc ridicat” trebuie să respecte practicile de guvernanță a datelor, inclusiv colectarea etică a seturilor de date pentru instruire și asigurarea faptului că acestea sunt reprezentative și cât mai puțin părtinitoare posibil.

De asemenea, aceștia trebuie să redacteze documentația tehnică a funcționalității IA și a măsurilor de gestionare a riscurilor, să păstreze o evidență a utilizării IA pentru a ajuta la monitorizarea incidentelor, să se asigure că utilizarea IA poate fi supravegheată de persoane reale și să garanteze niveluri adecvate de acuratețe, robustețe și securitate cibernetică.

Totodată, orice persoană care implementează sisteme de inteligență artificială cu risc ridicat va trebui să efectueze o evaluare a modului în care instrumentul ar putea afecta drepturile fundamentale prevăzute de legislația UE.

Practic, sistemele de inteligență artificială cu risc ridicat vor fi probabil considerate conforme dacă respectă standardele și specificațiile stabilite de Comisia Europeană și de organizațiile care stabilesc standarde.

Domeniile considerate cu risc ridicat includ biometria și recunoașterea facială, atunci când nu sunt interzise în mod explicit în conformitate cu articolul 5, componentele infrastructurii critice, educația și locul de muncă, precum și accesul la servicii publice, beneficii sau servicii private esențiale, cum ar fi serviciile bancare și de asigurări. Utilizarea sistemelor de inteligență artificială legate de aplicarea legii, migrație, justiție și alegeri se califică, de asemenea, ca fiind de risc ridicat.

Normele Legii privind inteligența artificială vizează „modelele” de uz general care stau la baza instrumentelor de IA, nu aplicațiile care se adresează clienților. Adică arhitectura software integrată în produsele diferiților furnizori.

Dezvoltatorii acestor modele (cum ar fi cele care alimentează ChatGPT sau Bard de la Google) vor trebui să păstreze o documentație tehnică detaliată, să ajute companiile sau persoanele care își implementează modelele să înțeleagă funcționalitatea și limitele instrumentelor, să furnizeze un rezumat al materialului protejat prin drepturi de autor (cum ar fi textele sau imaginile) utilizat pentru a antrena modelele, dar și să coopereze cu Comisia Europeană și cu autoritățile naționale de aplicare a legii atunci când este vorba de respectarea regulamentului.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp 

Abonează-te la newsletterul Republica.ro

Primește cele mai bune articole din partea autorilor.

Comentarii. Intră în dezbatere
  • Am urmat adresa la care faceţi trimitere şi am constatat că textul dumneavoastră este doar o traducere în limba română a unui articol publicat în POLITICO sub titlul „The EU’s artificial intelligence rulebook, explained”. Cu această precizare trebuia să începeţi.. Altfel, cititorii vor înţelege (cazul meu) că sunteţi cel care explică, pe înţelesul tuturor, regulamentul UE privind AI. Ca urmare, nu e "...După cum bine explică și Politico Europe...", ci, simplu, după cum explică, bine sau rău, doar textul din POLITICO (secţiunea Europe). Dumneavoastră nu contribuiţi în niciun fel la aceste explicaţii.
    Modul în care faceţi trimitere la POLITICO sugerează mai degrabă că ideile de acolo vă susţin afirmaţiile. Traducerile sunt utile, dar rămân doar traduceri, nu sunt contribuţii (exceptând cazuri foarte rare, în care sunt implicate manuscrise sau documente de importante).
    Acest lucru m-a dezamăgit. Am urmărit cu interes textele dumneavoastră, mi s-au părut interesante şi am presupus de fiecare dată că ideile din ele vă aparţin.
    • Like 0
  • Ion check icon
    Eu as fi permis să fie folosită la potențialul maxim și chiar antrenată pe pe cei ce încă nu sunt cetățeni UE sau care vor sa devină rezidenți și mai apoi cetățeni. Dacă vrei să devii european, de voie sau de nevoie trebuie să știi că o perioadă o să ai mai puține drepturi!
    • Like 1


Îți recomandăm

Familia Mirică

„Eu, soția, mama și tata. Mai nou, sora și cumnatul care au renunțat să lucreze într-o firmă mare de asigurări ca să ne ajute cu munca pământului. Au fugit din București și au venit la fermă, pentru că afacerea are nevoie de forțe proaspete. Și cei 45 de angajați ai noștri, pe care-i considerăm parte din familie”. Aceasta este aritmetica unei afaceri de familie care poate fi sursă de inspirație pentru toți tinerii care înțeleg cât de mult a crescut valoarea pământului în lumea în care trăim.

Citește mai mult

Dan Byron

Într-un dialog deschis, așa cum sunt și majoritatea pieselor scrise de el, Daniel Radu, cunoscut mai degrabă ca Dan Byron, a vorbit recent la podcastul „În oraș cu Florin Negruțiu” despre copilăria sa, cântatul pe străzi la vârsta de 16 ani, amintirile mai puțin plăcute de la Liceul Militar de Muzică, dar și despre muzica sa și publicul ei întinerit. (Foto: Cristi Șuțu)

Citește mai mult

RetuRO

Sunt pline rețelele sociale cu postări ale oamenilor care descriu că simt furie, frustrare, neputință, când văd deșeuri în Lacul Roșu sau lacul cu nuferi din Ipoteștii lui Eminescu, în stațiuni montane sau pe litoral. Le vedem peste tot - pe stradă, pe marginea drumurilor naționale, în tren, din tren, pe lângă calea ferată, în grădinile blocurilor, în gropile de gunoi de la marginea satelor, pe albiile pârâurilor și râurilor, în păduri.

Citește mai mult