Când vom merge la interviuri organizate de roboți. Despre impactul AI în HR

Foto: Profimedia

Să ne imaginăm un viitor în care angajările în companii se fac cu ajutorul asistenților AI. Riscant sau util? Sau un viitor în care chiar negocierea salariilor va fi făcută tot de către un algoritm de inteligență artificială?

Cât de mult ajută inteligență artificială în procesul de recrutare?

E clar că folosirea algoritmilor AI-ului în recrutare aduce eficiență, obiectivitate și precizie, economisind timp și resurse, dar ridică și întrebări esențiale legate de capacitatea limitată privind complexitatea interacțiunilor umane, pe care AI nu le poate capta complet. Pentru a înțelege mai bine acest echilibru, trebuie să explorăm atât avantajele, cât și dezavantajele utilizării AI în recrutare.

Utilizarea AI în negocierea salariilor sau în luarea deciziilor critice legate de angajări ridică întrebări etice. Transferul de autoritate către un algoritm poate crea un risc de delegare a responsabilității fără o verificare adecvată. AI nu trebuie văzut ca o autoritate absolută, ci ca un instrument de suport si informare, menit să completeze judecata umană, nu să o înlocuiască complet.

Într-un viitor în care roboții AI gestionează interviurile sau negocierile salariale, beneficiile pot fi evidente: eliminarea favoritismelor, optimizarea timpului, dar totodată există riscul de a umaniza prea puțin interacțiunile. De aceea, este crucial să ne asigurăm că supravegherea umană rămâne activă, iar deciziile finale sunt validate de oameni.

De asemenea, dacă ne gândim la un asistent AI care ajută la recrutarea pentru poziții din sectorul public sau în instituțiile statului, meritocrația ar putea avea și ea, într-un final, de câștigat. O astfel de tehnologie ar putea reduce nepotismul și favoritismul, permițând o selecție bazată strict pe competențe. Totuși, până la acest ideal, trebuie să fim conștienți că AI trebuie folosit cu prudență, fiind doar o parte a ecuației decizionale, în care omul rămâne esențial.

Cum un algoritm de inteligenta artificiala eronat a dus la discriminarea femeilor la angajare la Amazon

În 2018, s-a aflat că Amazon a avut probleme cu un algoritm de inteligență artificială folosit pentru a evalua candidații la angajare, acesta fiind părtinitor împotriva femeilor. Ce s-a întâmplat concret? Sistemul de recrutare folosea un model de învățare automată care accesa datele istorice ale companiei despre candidați și angajați. Problema a apărut deoarece datele istorice erau dominate de bărbați, mai ales în rolurile tehnice, ceea ce a dus la un algoritm care favoriza candidații bărbați. Algoritmul ajunsese să penalizeze CV-urile care conțineau cuvinte asociate cu femeile sau cu experiențe legate de femei, cum ar fi participarea la activități sau organizații pentru femei.

Algoritmii de inteligență artificială sunt antrenați pe seturi de date istorice, ceea ce poate duce la perpetuarea prejudecăților existente în perioadele respective. În loc să corecteze această eroare, AI-ul de la Amazon a continuat să penalizeze CV-urile asociate cu femeile, reflectând un bias învățat. Pentru a preveni astfel de situații, soluția este antrenarea algoritmilor pe seturi de date diverse, care includ exemple reprezentative din toate grupurile demografice. În plus, ajustarea constantă a modelelor de AI și testarea lor pe criterii de corectitudine pot contribui la reducerea cazurilor și la crearea unui proces de recrutare mai echitabil.

După ce s-a descoperit că algoritmul dezvoltat avea prejudecăți împotriva femeilor, Amazon a decis să renunțe la utilizarea acestuia în procesul de recrutare.

Pe lângă cazul menționat anterior, alte companii au avut probleme similare cu algoritmii lor de recrutare. De exemplu, platformele de recrutare care foloseau AI pentru a analiza CV-uri și a recomanda candidați au fost criticate pentru că favorizau candidații din anumite grupuri, în special pe baza numelui, vârstei sau a istoricului profesional, perpetuând astfel discriminarea.

Cazul Amazon nu este un incident izolat; mai multe companii mari au avut probleme similare legate de discriminarea algoritmică. De exemplu, în 2019, algoritmul de stabilire a limitelor de credit al Apple Card, dezvoltat de Goldman Sachs, a fost acuzat că discriminează femeile. Femeile primeau limite de credit semnificativ mai mici decât bărbații, chiar și atunci când aveau aceleași condiții financiare! Acest incident subliniază o problemă comună în utilizarea AI: algoritmii antrenați pe date istorice riscă să perpetueze părtiniri preexistente. Pentru a evita astfel de situații, este crucial ca algoritmii să fie audiați și ajustați constant, iar deciziile automate să fie însoțite de o intervenție umană care să asigure corectitudinea și egalitatea de gen.

Sistemele de măsurare a comportamentului social uman sunt interzise?

Conform AI Act, despre care am scris aici, sistemele de măsurare a comportamentului social sunt interzise, deoarece pot duce la discriminare și la limitarea drepturilor individuale. Acestea pot evalua comportamentul social al unei persoane și pot influența accesul la diverse servicii sau oportunități, creând un sistem inechitabil. În societatea actuală, utilizarea algoritmilor care analizează emoțiile sau sentimentele unei persoane este considerată problematică, deoarece poate genera interpretări subiective și părtinitoare, afectând în mod negativ evaluările obiective în diverse contexte.

Emoțiile și sentimentele sunt dificil de cuantificat cu acuratețe, iar algoritmii pot interpreta greșit expresiile faciale, tonul vocii sau alte indicii non-verbale și paraverbale, mai ales în cazul persoanelor din culturi diferite sau cu stiluri de comunicare unice.

Acest lucru poate genera discriminare involuntară sau decizii eronate în procesele de recrutare, educație sau alte domenii sensibile unde corectitudinea și imparțialitatea sunt esențiale.

Utilizarea sistemelor AI în recrutare are risc ridicat conform legislației europene privind inteligența artificială

Recrutarea este clasificată ca fiind o aplicație cu risc ridicat, în contextul noii legislatii europene legata de inteligenta artificiala: EU AI Act, deoarece deciziile luate de un algoritm de selecție pot afecta în mod direct viețile oamenilor.

Un algoritm care evaluează candidații pentru un loc de muncă are puterea de a decide cine primește o oportunitate de angajare și cine nu. Dacă algoritmul este părtinitor sau face erori, poate exclude în mod nedrept oameni calificați, afectandu-le carierele și mijloacele de trai. De asemenea, un astfel de sistem poate amplifica prejudecăți deja existente, cum ar fi cele legate de gen, rasă sau vârstă, creând discriminare sistematică, involuntară, dar e tot o discriminare.

Din acest motiv, legislația (AI Act) impune reguli stricte pentru a asigura că algoritmii folosiți în recrutare sunt corecți, transparenți și lipsiți de erori.

Recrutorii vor folosi asistenții AI în fiecare zi sa identifice mai ușor cei mai buni candidați

Asistenții AI pentru recrutori sunt instrumente bazate pe inteligență artificială care ajută echipele de resurse umane să gestioneze mai eficient procesul de recrutare. Acești asistenți automatizeaza o serie de sarcini repetitive și administrative, permițând recrutorilor să se concentreze pe aspectele strategice și interacțiunile de calitate cu candidații.

Un mare avantaj al utilizării AI în selecția CV-urilor este viteza și capacitatea de procesare la scară mare. Se pot procesa mii de CV-uri pe zi, până la de 10 ori mai multe CV-uri decât într-un proces de filtrare manual, făcut de om. Algoritmii pot evalua mii de aplicații într-un timp foarte scurt, eliminând acele CV-uri care nu îndeplinesc cerințele minime și oferind recrutorilor o listă restrânsă cu candidații cei mai potriviți. În plus, utilizarea AI poate contribui la standardizarea procesului de selecție, reducând erorile și subiectivitatea care apar adesea în evaluările tradiționale făcute de oameni.

De asemenea, asistenții AI pot oferi răspunsuri automate candidaților privind stadiul aplicației lor, programarea interviurilor sau chiar feedback personalizat, îmbunătățind astfel experiența candidaților, existând posibilitatea de a se trimite mesaje automate de follow-up, menținând o comunicare constantă și profesională pe parcursul întregului proces de recrutare.

Un alt avantaj este capacitatea AI de a analiza tendințele pieței muncii și de a oferi recomandări legate de poziții deschise, pachete salariale competitive și alte aspecte relevante pentru recrutare. Acești asistenți pot analiza date despre cerințele pieței și candidații disponibili, ajutând recrutorii să ia decizii mai bine informate.

Cu toate acestea, există și riscuri semnificative în utilizarea AI pentru selecția CV-urilor. Dacă algoritmii sunt antrenați pe date care reflectă prejudecăți din trecut sau inegalități sociale, aceștia pot perpetua aceleași discriminări în evaluarea candidaților.

De exemplu, candidații din grupuri minoritare pot fi dezavantajați pe nedrept dacă algoritmul favorizează tiparele de succes anterioare care pot fi influențate de factori precum genul sau vârsta. Astfel, este esențial ca acești algoritmi să fie monitorizați și ajustați corespunzător pentru a preveni discriminarea și pentru a asigura un proces corect.

Este esențial ca transparența și responsabilitatea să fie părți integrante ale proceselor automate de selecție. Pentru a preveni decizii incorecte sau părtinitoare, este important să existe intervenția umană în proces (human in the loop), astfel încât oamenii să revizuiască și să corecteze rezultatele algoritmului acolo unde este cazul.

Supravegherea umană (human oversight) este la fel de importantă, pentru a monitoriza constant modul în care funcționează algoritmul și pentru a asigura că acesta nu ia decizii automatizate care să discrimineze sau să excludă în mod nedrept candidați valoroși. Într-un mediu de recrutare automatizat, menținerea acestui echilibru între eficiență și intervenția umană este esențială pentru a asigura un proces de selecție echitabil.

Candidații vor interacționa cu asistenți AI pentru a-si găsi mai ușor locul de munca ideal

Asistenții AI pentru interacțiunea cu candidații sunt tot mai frecvent utilizați în procesul de recrutare, având rolul de a comunica automatizat cu candidații în diferite etape ale procesului de angajare. Aceste sisteme automate pot răspunde la întrebări frecvente, pot oferi informații despre pozițiile deschise și pot ghida candidații prin procesul de aplicare.

Un avantaj major al utilizării asistenților AI este disponibilitatea continuă. Aceștia pot interacționa cu candidații 24/7, oferindu-le răspunsuri rapide și eliminând timpul de așteptare pentru asistența umană. Acest lucru îmbunătățește experiența candidaților și menține un flux constant de comunicare, ceea ce poate duce la o rată mai mare de completare a aplicațiilor.

Pe lângă asta, asistenți AI pot automatiza sarcini repetitive, cum ar fi colectarea informațiilor de bază ale candidaților, confirmarea disponibilității pentru interviuri sau chiar furnizarea de feedback inițial cu privire la calificările de bază. Acest lucru eliberează timpul recrutorilor, permițându-le să se concentreze pe evaluările mai detaliate și pe interacțiunile de nivel superior cu candidații.

Este important ca asistenți AI să fie bine integrați cu intervenția umană, astfel încât atunci când apar întrebări sau probleme complexe, un recrutor să poată interveni rapid. Supravegherea umană și îmbunătățirea constantă a sistemului sunt esențiale pentru a se asigura că asistenții AI oferă informații corecte și utile, fără a deveni frustrant pentru utilizatorii umani.

Candidații isi vor genera CV-urile cu AI în curând?

Să întoarcem un pic corăbiile și să privim lucrurile din perspectiva opusă. CV-urile realizate de candidați cu ajutorul inteligenței artificiale devin tot mai frecvente, deoarece aceste unelte pot ajuta la crearea unor documente bine structurate, optimizate și care folosesc cuvinte-cheie relevante pentru pozițiile vizate. Platformele bazate pe AI ajută candidații să genereze CV-uri personalizate rapid, să identifice punctele forte și să îmbunătățească modul în care sunt prezentate experiențele profesionale și abilitățile. Până la urmă, dacă privim astfel lucrurile, doar un AI îți poate face un CV beton care va fi analizat tot de un AI.

Ne punem întrebarea dacă AI poate detecta dacă un CV a fost generat tot cu ajutorul inteligenței artificiale. În principiu, este posibil ca un algoritm să recunoască anumite tipare sau stiluri specifice ale CV-urilor generate automat, mai ales dacă sunt utilizate șabloane standardizate și fraze comune oferite de instrumentele AI. De exemplu, limbajul foarte formal, structura similară a anumitor secțiuni sau repetarea anumitor cuvinte-cheie pot semnala că documentul a fost creat cu ajutorul AI.

În prezent, tehnologiile care evaluează CV-urile nu sunt concepute să detecteze direct dacă un CV a fost generat de AI, ci mai degrabă să evalueze calitatea și relevanța conținutului. Algoritmii de triere pot observa inconsistențe sau redundanțe în CV-uri, mai ales atunci când documentele sunt prea generale sau nu reflectă în mod autentic experiențele unui candidat. Pe viitor, pe măsură ce utilizarea AI pentru crearea CV-urilor crește, este posibil să apară soluții mai avansate pentru a identifica și gestiona acest fenomen.

Inteligența artificială poate revoluționa monitorizarea satisfacției angajaților prin analiza continuă a feedback-ului și a datelor legate de comportamentul lor la locul de muncă. AI poate procesa rapid informațiile din sondaje de satisfacție și feedback-ul zilnic, oferind o imagine de ansamblu asupra stării de bine a personalului. Prin tehnici precum analiza sentimentului, AI poate detecta tonul general al feedback-ului, clasificându-l în categorii pozitive, neutre sau negative, oferind echipelor de resurse umane date precise și utile pentru îmbunătățirea mediului de lucru.

Monitorizarea feedback-ului și a satisfacției angajaților cu ajutorul AI

Un alt avantaj major al AI este capacitatea sa de a identifica probleme ascunse sau tendințe care ar putea trece neobservate într-o analiză manuală. De exemplu, AI poate detecta o scădere subtilă a moralului angajaților sau o creștere a frustrării, permițând echipelor de HR să intervină înainte ca problemele să devină mai grave. În plus, AI poate furniza recomandări personalizate către management, sugerând soluții pentru îmbunătățirea satisfacției, cum ar fi ajustarea sarcinilor de lucru, inițierea programelor de formare sau îmbunătățirea echilibrului între viața profesională și personală.

Confidențialitatea și etica sunt esențiale în utilizarea AI pentru monitorizarea angajaților. Este important ca angajații să fie informați despre modul în care feedback-ul lor este utilizat și să existe supraveghere umană pentru a preveni interpretări greșite ale datelor colectate. Cu toate acestea, utilizată corect, AI poate ajuta la crearea unui mediu de lucru mai atractiv, bazat pe date obiective, care promovează angajamentul și retenția personalului.

Cum dezvoltăm asistenți AI pentru recrutare in Luxemburg

În Luxemburg, la RMT Labs dezvoltăm o platformă care automatizează procesele repetitive din recrutare. De exemplu, un asistent AI care compara CV-ul unui candidat cu descrierea jobului poate determina dacă acel candidat este potrivit pentru poziția la care a aplicat.

Asistentul AI analizează competențele tehnice, de comunicare, de management, de motivare și leadership.Apoi îți poate răspunde la întrebări legate de anumite concepte care sunt listate in CV ca: ce este o baza de date, cum se compara Java cu PHP sau alte întrebări tehnice care ajută un recruiter să-nțeleagă mai bine profilul candidatului și tehnologiile listate în CV-ul acestuia.

În urma analizei complete a proceselor de recrutare făcută de o echipa de cercetători, a reieșit că 75% din procesele de recrutare care sunt repetitive se pot automatiza cu AI.

Așadar în viitorul apropiat este foarte posibil ca în multe procese de recrutare să întalnesti un asistent AI în locul unei persoane.

Cum ne asigurăm ca soluția de AI folosită în recrutare corespunde cerințelor Ai Act de conformitate?

Am discutat acest subiect cu Cristiana Deca, CEO Decalex, AI si Data Expert:

„Dat fiind ca utilizarea soluțiilor AI în recrutare și managementul angajatilor sunt considerate cu risc ridicat pentru drepturile fundamentale și siguranța persoanelor, procesul de decizie cu privire la introducerea unei astfel de soluții trebuie sa aibă în vedere verificarea conformității soluției prin verificarea documentației tehnice, a trasabilitatea, a usurintei cu care se poate explica procesul de logica din spatele algoritmului, informații clare si concrete despre seturile de date utilizate în procesul de învățare al AI-ului. Ulterior implementarii este important setare aunui mediu de testare în care soluția sa fie verificate pe posibil scenarii de risc pentru a observa dacă într-adevăr aceasta îndeplinește standardele impuse de AI Act și prevederile din GDPR privind procesul decizional automatizat.”

Am discutat cu doctor în psihologie Mara Priceputu, specialist in psihologie organizationala:

„Utilizarea aplicațiilor AI în recrutarea de personal este utilă în identificarea informațiilor relevante pe care le pune angajatul la dispoziție. Totuşi cum va răspunde acesta nevoilor canditaților de a obține la rândul lor o imagine clară despre organizație?

Cum va putea răspunde unor întrebări şi solicitări ale candidatului privind mediul de muncă real cum ar fi:

- elementele culturii organizaționale

- principiile şi politicile pentru resursele umane

- tradițiile

- rutinele echipelor de lucru şi altele?

Toate acestea sunt repere ce reprezintă indicatori importanți ai candidatului de a îşi alege la rândul său angajatorul astfel încât, să se poată crea alegerea reciprocă, realistă pentru relații eficiente și de durată. Contactul cu colegi care cunosc realitatea parametrilor concreți ai muncii facilitează recrutarea realistă astfel se poate evita fluctuația de personal.

Psihologia organizațională pledează pentru construirea unor relații şi a unui mediu de muncă cu implicare reciprocă. Politicile resurselor umane includ grija față de calitatea vieții profesionale și personale.”

Ultimul cuvânt trebuie să rămână al omului

Este bine să ne folosim de AI în HR, pentru că automatizarea și analiza avansată pot face procesul de recrutare și management al resurselor mult mai eficient. Totuși, ultimul cuvânt trebuie să aparțină H-ului din HR, adică factorului uman. Inteligența artificială poate filtra candidați, analiza date și oferi recomandări, dar decizia finală trebuie să fie luată de o persoană, pentru a păstra elementul uman, empatia și înțelegerea nuanțelor pe care AI nu le poate capta complet.

Transferul de autoritate către AI poate crea o problemă de încredere excesivă. Dacă ajungem să luăm de bun tot ce spune AI fără să verificăm, riscul este ca sistemul să facă greșeli sau să perpetueze prejudecăți existente în datele pe care a fost antrenat. Astfel, este esențial ca AI să fie un instrument de suport, nu o autoritate supremă în procesul decizional.

Este crucial ca omul să rămână în control asupra deciziei finale, folosindu-se de AI ca asistent pentru a evalua informațiile, dar intervenind activ acolo unde sunt necesare judecăți de valoare, etice sau unde situațiile individuale nu pot fi tratate automatizat. În acest mod, AI poate aduce valoare adăugată, dar fără a înlocui discernământul și responsabilitatea deciziei umane.

Urmăriți Republica pe Google News

Urmăriți Republica pe Threads

Urmăriți Republica pe canalul de WhatsApp