Secţiuni » Arii de practică » Business » Cyberlaw
Cyberlaw
CărţiProfesionişti

Procesele de resurse umane în era inteligenței artificiale


01.11.2022 | Andrada POPESCU
Secţiuni: Articole, Cyberlaw, Data protection, Proiecte legislative, Selected
JURIDICE - In Law We Trust
Andrada Popescu

Andrada Popescu

Este bine cunoscut faptul că tehnologia transformă continuu modul în care lucrăm. Din ce în ce mai multe companii utilizează programe care implică software cu inteligență artificială (IA) pentru a își simplifica și accelera procesele de luare a deciziilor, precum și activitățile comerciale în general. Unul dintre ultimele domenii în care a început să se folosească IA este cel al proceselor de resurse umane.

Nu există nicio dezbatere cu privire la impactul pozitiv al software-ului cu IA în procesele de resurse umane sau la modul în care IA remodelează gestionarea acestor procese. De la recrutare, la măsurarea productivității și oferirea unei formări profesionale adecvate angajaților, până la nivelul de implicare al acestora în cadrul companiei, IA este cunoscută pentru faptul că ajută companiile să eficientizeze procesele, să reducă timpul și costurile și să diminueze prejudecățile umane (chiar și inconștiente).

Un nou cadru juridic la orizont

Utilizarea software-ului cu IA în procesele de resurse umane poate părea cu ușurință soluția „de urmat” pentru angajatori. Cu toate acestea, orice companie care folosește software cu IA știe că există o linie subțire între respectarea deplină și încălcarea prevederilor legale aplicabile, ceea ce înseamnă că există un risc puternic ca dorința de inovare să declanșeze o catastrofă de conformitate.

Până în prezent, angajatorii au fost obligați să respecte, în principal, cerințele GDPR atunci când utilizează software cu IA în procesele de resurse umane, dar situația va deveni în curând mai complicată. Un proiect de regulament UE privind IA propus de Comisia Europeană în 2021 face în prezent obiectul unor negocieri politice și se așteaptă să fie supus votului în plen la sfârșitul anului 2022 sau la începutul anului 2023.

Proiectul de regulament privind IA stabilește o abordare bazată pe risc (inacceptabil, ridicat, limitat și minim) – cu cât riscul este mai ridicat, cu atât mai strictă este regula. Sistemele și instrumentele tehnologice de resurse umane, și anume:

– sisteme de IA utilizate pentru recrutarea sau selecția persoanelor fizice – anunțuri de angajare, depistarea sau filtrarea candidaturilor, evaluarea candidaților în timpul interviurilor;

– Sisteme de IA utilizate pentru luarea deciziilor privind promovarea și încetarea contractelor de muncă, alocarea sarcinilor, evaluarea performanțelor și a comportamentului,

sunt considerate sisteme de IA cu risc ridicat. Astfel, folosirea sistemelor de IA în procesele de resurse umane este permisă sub rezerva (i) respectării unor cerințe stricte privind calitatea datelor, documentația și transparența, supravegherea umană, protecția împotriva atacurilor cibernetice și (ii) unei evaluări a conformității aplicației.

Proiectul de regulament privind IA prevede, de asemenea, consecințe negative pentru societățile care nu respectă cerințele – până la 30.000.000 € sau 6% din cifra de afaceri anuală totală la nivel mondial pentru cele mai grave încălcări.

Având în vedere cele de mai sus, am considerat utilă evidențierea principalelor aspecte pe care angajatorii trebuie să le ia în considerare atunci când implementează sau utilizează software cu IA în procesele de resurse umane.

A. Prevenirea părtinirii algoritmice și asigurarea transparenței

Deși software-ul cu IA elimină părtinirea umane, companiile trebuie să fie conștiente de faptul că un astfel de software poate avea o părtinire algoritmică.

Software-ul cu IA se bazează pe algoritmi, adică pe un set de instrucțiuni care sunt introduse în calculatoare pentru a fi folosite de acestea ca bază pentru decizii. Astfel, un algoritm părtinitor (de exemplu, din cauza unei baze de date defectuoase sau a unei programări incorecte) poate duce la discriminarea indirectă a candidaților/angajaților. De exemplu, în cazul recrutării, dacă societatea angajează de obicei bărbați, este posibil ca software-ul cu IA să elimine candidații de sex feminin.

Angajatorii care iau decizii bazate pe un software cu IA care are o părtinire algoritmică se expun unor sancțiuni în cazul în care candidații/angajații depun plângeri pentru discriminare la Consiliul Național pentru Combaterea Discriminării (CNCD) sau în instanță, respectiv amenzi de până la 100.000 de lei (aprox. 20.000 €).

Pentru a atenua riscul de părtinire algoritmică, companiile ar trebui să ia măsuri pentru a fi informate în mod adecvat cu privire la software-ul cu IA, ceea ce înseamnă (i) discutarea cu dezvoltatorii cu privire la setul de date și modul în care computerul urmează să fie antrenat pentru a utiliza algoritmii și (ii) testarea produsului pentru a se asigura că toate caracteristicile protejate (de exemplu, sexul, etnia etc.) sunt incluse în seturile de date utilizate. În plus, angajatorii trebuie să fie în măsură să asigure trasabilitatea operațiunilor efectuate de către sistem pentru a putea explica, dacă este necesar, angajaților/candidaților sau chiar autorităților din domeniul muncii modul în care software-ul cu IA a produs rezultatul pe care s-a bazat decizia de resurse umane.

B. Evaluarea riscurilor legate de protecția datelor

Software-ul cu IA în procesele de resurse umane implică o varietate de analize de date mari care pot declanșa implicații semnificative din perspectiva GDPR. Astfel, angajatorii care utilizează software cu IA pentru procesele de resurse umane trebuie să aibă în vedere o evaluare a impactului asupra protecției datelor (DPIA) în conformitate cu reglementările GDPR, pe baza căreia ar putea lua în considerare luarea unor măsuri precum:

– pseudonimizarea datelor cu caracter personal, dacă este posibil;

– asigurarea transparenței, adică asigurarea faptului că persoanele fizice cunosc modul în care sunt prelucrate datele lor;

– informarea candidaților/angajaților cu privire la modul în care sunt prelucrate datele lor.

C. Informarea reprezentanților angajaților sau a sindicatului

Angajatorii au obligația generală de a își informa angajații cu privire la elementele raportului de muncă, precum și de a se consulta cu reprezentanții angajaților/sindicatul cu privire la deciziile care pot afecta în mod substanțial drepturile și interesele acestora. În plus, companiile au o obligație de informare cu privire la prelucrarea datelor cu caracter personal în temeiul GDPR.

Deși nu există nicio obligație specifică în dreptul muncii privind informarea în legătură cu utilizarea software-ului cu IA, utilizarea unui astfel de software în procesele de resurse umane cu privire la proprii angajați implică agregarea de date care pot afecta drepturile și interesele acestora. Astfel, pe lângă obligațiile care derivă din GPDR, s-ar putea dovedi util pentru companii să consulte reprezentanții angajaților sau sindicatul atunci când implementează sau utilizează software de IA în procesele de resurse umane.

D. Asigurarea și formarea unui element uman

Atât GDPR, cât și proiectul de regulament privind IA interzic utilizarea software-ului cu IA pentru luarea unor decizii exclusiv automatizate. Astfel, prezintă o importanță deosebită ca societățile să se asigure că software-ul cu IA este „supravegheat” de un operator uman, preferabil din departamentul de resurse umane.

În acest caz, angajatorul trebuie să se asigure că operatorul uman are competența, formarea și autoritatea necesare pentru a îndeplini această sarcină. Prin urmare, este recomandabil ca angajatul să primească o instruire adecvată pentru a putea supraveghea cu atenție funcționarea software-ului cu IA, să interpreteze corect rezultatele și/sau să decidă dacă aceste rezultate trebuie utilizate, anulate sau inversate.

Indiferent dacă proiectul de regulament privind IA intră sau nu în vigoare, angajatorii care intenționează să utilizeze sau utilizează software cu IA în procesele de resurse umane ar trebui să considere acest proiect ca o ocazie de a evalua cu atenție oportunitățile și riscurile unui astfel de software și de a își adapta practicile în consecință.

Andrada Popescu, Senior Associate NOERR

Cuvinte cheie: , , , , ,
Vă invităm să publicaţi şi dvs., chiar şi opinii cu care nu suntem de acord. JURIDICE.ro este o platformă de exprimare. Publicarea nu semnifică asumarea de către noi a mesajului. Totuşi, vă rugăm să vă familiarizaţi cu obiectivele şi valorile Societătii de Stiinţe Juridice, despre care puteti ciţi aici. Pentru a publica vă rugăm să citiţi Condiţiile de publicare, Politica privind protecţia datelor cu caracter personal şi să ne scrieţi la adresa de e-mail redactie@juridice.ro!

JURIDICE.ro foloseşte şi recomandă My Justice

Autori JURIDICE.ro
Juristi
JURIDICE pentru studenti
JURIDICE NEXT









Subscribe
Notify of

Acest site folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.

0 Comments
Inline Feedbacks
View all comments
Important: Descurajăm publicarea de comentarii defăimatoare. Vor fi validate doar comentariile care respectă Politica JURIDICE.ro şi Condiţiile de publicare.

↑  Înapoi în partea de sus a paginii  ↑

Secţiuni        Selected     Noutăţi     Interviuri        Arii de practică        Articole     Jurisprudenţă     Legislaţie        Cariere     Evenimente     Profesionişti