Legea privind inteligența artificială, care urmărește ca sistemele de AI să respecte drepturile și valorile fundamentale, va intra în vigoare din august. Ce poate merge prost? Riscurile sistemelor AI nereglementate

Foto: Petrášek Radek / ČTK / Profimedia

Legea privind Inteligența Artificială, care urmărește ca sistemele de inteligență artificială să respecte drepturile și valorile fundamentale, a fost publicată în Jurnalul Oficial al Uniunii Europene și va intra în vigoare din august. 

Legea AI urmărește să garanteze că sistemele de inteligență artificială din UE sunt sigure și respectă drepturile și valorile fundamentale. În plus, obiectivele sale sunt de a stimula investițiile și inovarea în AI, de a îmbunătăți guvernanța și punerea în aplicare și de a încuraja o piață unică a AI în UE.

Legea AI intră în vigoare la 1 august 2024. În ciuda unor confuzii, articolul 113 clarifică faptul că regulamentul intră în vigoare în a douăzecea zi de la publicarea sa în Jurnalul Oficial, adică la 13 iulie.

Printr-o mișcare semnificativă pentru a asigura implementarea sigură și etică a inteligenței artificiale, legea nou introdusă clasifică sistemele de inteligență artificială în funcție de nivelurile lor de risc, de la risc minim, la risc inacceptabil. 

Legea impune reglementări stricte pentru sistemele AI cu risc ridicat, subliniind necesitatea transparenței, a responsabilității și a unei supravegheri umane riguroase. Mai exact, legea clasifică sistemele AI în patru niveluri de risc - inacceptabil, ridicat, limitat și minim. Sistemele cu risc inacceptabil sunt interzise, în timp ce sistemele cu risc ridicat trebuie să îndeplinească cerințe stricte de conformitate.

Pentru sistemele AI cu risc ridicat, există protocoale solide privind calitatea datelor, documentația, transparența și supravegherea umană. Nerespectarea normelor ar putea conduce la amenzi semnificative, de până la 30 de milioane EUR sau 6% din cifra de afaceri anuală.

O dispoziție - cheie a legii este supravegherea umană obligatorie pentru sistemele AI cu risc ridicat. Această măsură garantează că intervenția umană rămâne posibilă în situații critice pentru a preveni prejudicii sau rezultate lipsite de etică. Legea subliniază, de asemenea, importanța utilizării unor seturi de date de înaltă calitate, impunând ca sistemele de inteligență artificială să fie antrenate și testate pe baza unor date imparțiale și reprezentative, pentru a evita rezultatele discriminatorii.

Câteva exemple de aplicații în funcție de gradul de risc conform AI Act:

Risc inacceptabil

• Sisteme de supraveghere biometrică în timp real în spații publice sunt interzise, deoarece pot compromite grav drepturile și libertățile fundamentale ale persoanelor.
• Scoring social prin evaluarea comportamentului cetățenilor pentru a le acorda sau restricționa accesul la anumite servicii publice sau private.

Risc ridicat

• Sisteme de recunoaștere facială utilizate de autorități pentru identificarea persoanelor în contextul aplicării legii.
• Sisteme AI în context medical, de exemplu, software-ul de diagnosticare a bolilor, care trebuie să respecte standarde stricte de calitate a datelor și transparență.
• Sisteme de recrutare automatizate trebuie să asigure non-discriminarea și transparența în procesul de selecție.

Risc limitat

• Chatbot-uri utilizate pentru suportul clienților, care trebuie să informeze utilizatorii că interacționează cu un sistem AI.
• Sisteme de recomandare pe platformele de social media sau e-commerce, care nu au un impact major asupra drepturilor fundamentale ale utilizatorilor.

Risc minim

• Jocuri video cu AI - acestea sunt considerate cu risc foarte scăzut și nu necesită măsuri speciale de reglementare.
• Filtre de spam pentru e-mail care ajută la clasificarea mesajelor fără a avea un impact semnificativ asupra utilizatorilor.

Această legislație marchează un pas proactiv către încurajarea dezvoltării și implementării responsabile a inteligenței artificiale, acordând prioritate protecției persoanelor și a societății împotriva riscurilor potențiale asociate tehnologiilor avansate de AI.

Ce poate merge prost? Riscurile sistemelor AI nereglementate

Introducerea noii legi evidențiază mai multe riscuri critice asociate cu supravegherea și transparența inadecvate. Iată ce ar putea merge prost dacă aceste sisteme nu sunt controlate:

• În lipsa unei supravegheri riguroase, sistemele de inteligență artificială cu risc ridicat pot conduce la încălcări semnificative ale eticii și la rezultate dăunătoare, prezentând riscuri grave pentru societate.
• Absența unor informații clare cu privire la capacitățile și limitările AI poate duce la utilizarea abuzivă sau la consecințe neintenționate, subminând încrederea și siguranța.
• Intervenția umană inadecvată în cadrul operațiunilor AI ar putea permite sistemelor automatizate să ia decizii critice cu efecte potențial dezastruoase, subliniind necesitatea supravegherii umane.
• Prejudecățile din datele de formare a AI pot perpetua și chiar amplifica inegalitățile sociale și practicile discriminatorii existente, conducând la rezultate nedrepte și dăunătoare.
• Eșecurile în menținerea unor jurnale detaliate ale proceselor decizionale ale AI pot împiedica responsabilitatea și pot ascunde cauzele fundamentale ale erorilor, complicând eforturile de soluționare a problemelor.
• Neglijarea cerinței de a dispune de seturi de date de înaltă calitate și imparțiale poate compromite fiabilitatea și corectitudinea rezultatelor AI, diminuând eficacitatea și fiabilitatea acestora.
• Neglijarea necesității supravegherii umane în sistemele de AI cu risc ridicat ar putea conduce la situații în care acțiunile automate nu sunt controlate, provocând daune semnificative și probleme etice.

Pe măsură ce tehnologiile AI continuă să avanseze, aceste potențiale capcane subliniază importanța unei reglementări și a unei supravegheri riguroase pentru a se asigura că sistemele AI sunt implementate în mod responsabil și etic. Noua lege își propune să abordeze aceste riscuri, promovând transparența, responsabilitatea și utilizarea de date imparțiale de înaltă calitate pentru a preveni posibilele dezastre.

Actul UE privind inteligența artificială este menit să devină un punct de referință la nivel mondial pentru reglementarea inteligenței artificiale, influențând standardele și practicile internaționale.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp