![Imagine sugestivă cu inteligența artificială. Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia](https://assets.republica.ro/20240207/900x600/d4444d58d5eec58328dfd128bb71764ec67c13b6.jpg)
Foto: Nakhorn Yuangkratoke / Alamy / Alamy / Profimedia
Să vorbim puțin despre textul final al Legii europene privind inteligența artificială, care a fost aprobat de țările membre ale UE: Ce conține? Păi actul are ca scop să țină în frâu această tehnologie, a cărei influență crește pe zi ce trece. Noile norme sunt acum pe cale să fie aprobate în aprilie și ar putea intra în vigoare în cursul acestui an.
Comisia Europeană a propus Legea privind inteligența artificială în 2021 pentru a stabili norme nu doar pentru această tehnologie, ci și pentru utilizarea ei în scenarii în care ar putea avea consecințe grave pentru public.
Cu alte cuvinte, un instrument de inteligență artificială care generează adăugiri pe o poză de pe Instagram nu are nevoie de reglementare. Dar sistemele de inteligență artificială utilizate pentru a selecta candidații pentru admiterea la universități au cu siguranță nevoie de reglementare.
Articolul 5 din Legea privind IA prezintă cazurile de utilizare care sunt interzise în mod categoric. Între timp, UE a creat norme pentru așa-numita inteligență artificială de uz general pentru a aborda creșterea rapidă a unor sisteme precum ChatGPT de la OpenAI, care nu au o utilizare specifică și ar putea fi folosite pentru a genera orice, de la rețete la propagandă.
După cum bine explică și Politico Europe, articolul 5 din Legea privind inteligența artificială stabilește ce utilizări ale inteligenței artificiale sunt interzise. Printre acestea se numără cele care vizează influențarea comportamentului, cum ar fi tehnicile subliminale, manipulatoare sau înșelătoare asistate de IA sau utilizarea IA pentru a exploata vulnerabilitățile unei persoane sau ale unui grup.
De asemenea, nu este permisă nici utilizarea informațiilor biometrice pentru a stabili rasa, orientarea sexuală, convingerile sau apartenența sindicală a unei persoane. Nu este permis nici scorul social, care presupune urmărirea comportamentului unei persoane într-un mod care ar putea duce la un tratament nefavorabil într-o situație fără legătură cu aceasta - de exemplu, refuzarea accesului la un serviciu public din cauza consumului de droguri în trecut.
Este interzisă utilizarea recunoașterii faciale în timp real (cunoscută și sub numele de identificare biometrică la distanță) în locurile publice. Există însă și excepții: Forțele de ordine vor putea în continuare să folosească această tehnologie în cazul investigării infracțiunilor grave sau al căutării persoanelor dispărute, atât timp cât au autorizația unui judecător.
Nu este permisă utilizarea IA pentru a estima probabilitatea ca o persoană să comită o infracțiune doar pe baza caracteristicilor personale.
Instrumentele de inteligență artificială nu pot fi utilizate nici pentru a crea baze de date de imagini faciale prin extragerea de imagini de pe internet sau de pe înregistrările video ale camerelor de supraveghere.
Mai este interzisă și utilizarea instrumentelor de inteligență artificială pentru a deduce emoțiile unei persoane la locul de muncă sau într-un mediu educațional este interzisă.
Mai trebuie precizat că creatorii de sisteme de inteligență artificială utilizate în scenarii de „risc ridicat” trebuie să respecte practicile de guvernanță a datelor, inclusiv colectarea etică a seturilor de date pentru instruire și asigurarea faptului că acestea sunt reprezentative și cât mai puțin părtinitoare posibil.
De asemenea, aceștia trebuie să redacteze documentația tehnică a funcționalității IA și a măsurilor de gestionare a riscurilor, să păstreze o evidență a utilizării IA pentru a ajuta la monitorizarea incidentelor, să se asigure că utilizarea IA poate fi supravegheată de persoane reale și să garanteze niveluri adecvate de acuratețe, robustețe și securitate cibernetică.
Totodată, orice persoană care implementează sisteme de inteligență artificială cu risc ridicat va trebui să efectueze o evaluare a modului în care instrumentul ar putea afecta drepturile fundamentale prevăzute de legislația UE.
Practic, sistemele de inteligență artificială cu risc ridicat vor fi probabil considerate conforme dacă respectă standardele și specificațiile stabilite de Comisia Europeană și de organizațiile care stabilesc standarde.
Domeniile considerate cu risc ridicat includ biometria și recunoașterea facială, atunci când nu sunt interzise în mod explicit în conformitate cu articolul 5, componentele infrastructurii critice, educația și locul de muncă, precum și accesul la servicii publice, beneficii sau servicii private esențiale, cum ar fi serviciile bancare și de asigurări. Utilizarea sistemelor de inteligență artificială legate de aplicarea legii, migrație, justiție și alegeri se califică, de asemenea, ca fiind de risc ridicat.
Normele Legii privind inteligența artificială vizează „modelele” de uz general care stau la baza instrumentelor de IA, nu aplicațiile care se adresează clienților. Adică arhitectura software integrată în produsele diferiților furnizori.
Dezvoltatorii acestor modele (cum ar fi cele care alimentează ChatGPT sau Bard de la Google) vor trebui să păstreze o documentație tehnică detaliată, să ajute companiile sau persoanele care își implementează modelele să înțeleagă funcționalitatea și limitele instrumentelor, să furnizeze un rezumat al materialului protejat prin drepturi de autor (cum ar fi textele sau imaginile) utilizat pentru a antrena modelele, dar și să coopereze cu Comisia Europeană și cu autoritățile naționale de aplicare a legii atunci când este vorba de respectarea regulamentului.
Urmăriți Republica pe Google News
Urmăriți Republica pe Threads
Urmăriți Republica pe canalul de WhatsApp
Alătură-te comunității noastre. Scrie bine și argumentat și poți fi unul dintre editorialiștii platformei noastre.
Modul în care faceţi trimitere la POLITICO sugerează mai degrabă că ideile de acolo vă susţin afirmaţiile. Traducerile sunt utile, dar rămân doar traduceri, nu sunt contribuţii (exceptând cazuri foarte rare, în care sunt implicate manuscrise sau documente de importante).
Acest lucru m-a dezamăgit. Am urmărit cu interes textele dumneavoastră, mi s-au părut interesante şi am presupus de fiecare dată că ideile din ele vă aparţin.