Viitorul raporturilor de muncă în era IA

În contextul avansării rapide a tehnologiilor de inteligenţă artificială (IA) în ultimii ani, Uniunea Europeană a răspuns prin elaborarea unui regulament care să abordeze provocările etice şi riscurile asociate cu implementarea acestora. Regulamentul 2024/1689 al Parlamentului European şi al Consiliului din 13 iunie 2024, de stabilire a unor norme armonizate privind inteligenţa artificială (Regulamentul privind IA) a intrat în vigoare la 1 august 2024 şi este primul act legislativ care urmăreşte instituirea unui cadru uniformizat în această materie, asigurându-se că dezvoltarea şi implementarea IA nu aduce atingere drepturilor fundamentale şi promovează încrederea cetăţenilor în noile tehnologii.

Utilizarea IA de către angajatori în relaţiile de muncă pentru a simplifica şi automatiza anumite procese (e.g., selectarea candidaţilor, monitorizarea performanţei salariaţilor) nu reprezintă o noutate. Cu toate acestea, având în vedere tendinţa anumitor sisteme de IA de a perpetua practici discriminatorii sau prejudecăţi, s-a dovedit necesară reglementarea unui nivel de protecţie sporit pentru persoanele vizate, prin introducerea unor obligaţii complexe pentru entităţile care dezvoltă sau utilizează sisteme de IA în activitatea lor.

Riscurile utilizării IA în relaţiile de muncă

Regulamentul adoptă o abordare bazată pe riscuri, clasificând sistemele de IA în patru categorii de risc: (i) inacceptabil, (ii) ridicat, (iii) limitat şi (iv) minim.

Utilizarea IA pentru a deduce emoţiile unei persoane fizice în sfera locului de muncă prezintă un grad de risc inacceptabil şi este interzisă, reprezentând o ingerinţă la adresa valorilor UE şi a drepturilor fundamentale.

De asemenea, având în vedere impactul semnificativ pe care îl pot avea asupra carierei, mijloacelor de subzistenţă şi drepturilor lucrătorilor, următoarele sisteme de IA din domeniul ocupării forţei de muncă şi gestionării lucrătorilor sunt considerate ca prezentând un grad ridicat de risc:

>cele destinate recrutării sau selectării persoanelor fizice, în special pentru a plasa anunţuri de angajare direcţionate în mod specific, pentru a analiza şi a filtra candidaturile pentru locuri de muncă şi pentru a evalua candidaţii;

>cele destinate luării deciziilor care afectează termenii derulării relaţiilor de muncă, promovarea şi încetarea relaţiilor contractuale legate de muncă, pentru a aloca sarcini pe baza comportamentului individual sau a trăsăturilor ori caracteristicilor personale sau pentru a monitoriza şi evalua performanţa şi comportamentul persoanelor aflate în astfel de relaţii.

Prin excepţie, aceste sisteme nu vor fi considerate ca având un grad ridicat de risc, dacă nu prezintă un risc semnificativ de a aduce prejudicii sănătăţii, siguranţei sau drepturilor fundamentale ale persoanelor fizice, inclusiv prin faptul că nu influenţează în mod semnificativ rezultatul procesului decizional (e.g., un sistem care îndeplineşte o sarcină procedurală restrânsă, precum detectarea duplicatelor dintr-un număr mare de candidaturi). Cu toate acestea, chiar şi în situaţiile exceptate, aceste sisteme vor fi considerate întotdeauna ca prezentând un grad ridicat de risc, dacă creează profiluri ale persoanelor fizice.

Ce obligaţii au companiile care utilizează IA în relaţiile de muncă?

Companiile care achiziţionează şi utilizează sisteme de IA cu grad ridicat de risc la locul de muncă vor face obiectul unor exigenţe stricte în ceea ce priveşte utilizarea acestora, printre care amintim:

1.Respectarea instrucţiunilor de utilizare: Companiile au obligaţia de a respecta instrucţiunile de utilizare puse la dispoziţie de către furnizorii de sisteme IA, adoptând măsuri tehnice şi organizatorice corespunzătoare în acest sens. Aceştia monitorizează funcţionarea sistemului şi notifică furnizorului şi autorităţilor competente orice incident grav apărut în utilizarea sistemului. După caz, aceste informaţii pot fi utilizate pentru efectuarea evaluării impactului asupra protecţiei datelor, în temeiul Regulamentului general privind protecţia datelor (RGPD).

2.Supravegherea umană: Supravegherea sistemelor de IA cu grad ridicat de risc trebuie să fie încredinţată unor persoane care dispun de competenţa, formarea, autoritatea şi sprijinul necesar, fie prin angajarea de resurse umane adecvate, fie prin extinderea responsabilităţilor personalului relevant existent. Acestor persoane trebuie să li se permită, printre altele, să interpreteze corect rezultatele sistemului de IA cu grad ridicat de risc, ţinând seama de instrumentele şi metodele de interpretare disponibile, precum şi să decidă să nu utilizeze sistemul de IA cu grad ridicat de risc sau să ignore, să anuleze sau să inverseze rezultatele acestuia.

3.Pregătirea în domeniul IA: Companiile care implementează sisteme de IA trebuie să se asigure că atât personalul propriu, cât şi alte persoane care se ocupă cu operarea şi utilizarea sistemelor de IA în numele lor, dispun de competenţele şi cunoştinţele necesare în materie, luând în considerare contextul şi grupurile de persoane în legătură cu care urmează să fie folosite aceste sisteme.

4.Informarea lucrătorilor: Înainte de a pune în funcţiune sau de a utiliza un sistem de IA cu grad ridicat de risc la locul de muncă, angajatorii trebuie să informeze reprezentanţii lucrătorilor şi lucrătorii afectaţi că vor fi implicaţi în utilizarea sistemului de IA cu grad ridicat de risc.

5.Furnizarea de explicaţii: La cerere, companiile sunt obligate să furnizeze persoanei afectate de o decizie luată pe baza rezultatelor unui sistem de IA cu grad ridicat de risc explicaţii în legătură cu rolul sistemului în procedura decizională, dacă această decizie produce efecte juridice sau o afectează semnificativ de o manieră pe care o consideră a avea un impact negativ asupra sănătăţii, siguranţei sau drepturilor sale fundamentale.

Implicaţii în materia protecţiei datelor cu caracter personal

Regulamentul privind IA nu aduce atingere drepturilor şi obligaţiilor prevăzute de Regulamentul general privind protecţia datelor (RGPD). În acest sens, toţi actorii implicaţi în lanţul valoric al IA ar trebui, în măsura în care acestea implică prelucrarea de date cu caracter personal, să aibă în vedere asigurarea conformităţii cu prevederile RGPD. O atenţie deosebită va trebui acordată, printre altele, necesităţii efectuării evaluărilor impactului asupra datelor cu caracter personal, identificării şi implementării proceselor decizionale automatizate şi/sau profilării, dar şi obligaţiilor generale, precum identificarea bazei legale de prelucrare, acordarea şi exercitarea drepturilor persoanelor vizate etc.

Sancţiuni

Pentru nerespectarea obligaţiilor privind sistemele de IA cu grad de risc inacceptabil, angajatorii riscă amenzi de până la 35 de milioane EUR sau de până la 7% din cifra de afaceri mondială totală anuală pentru exerciţiul financiar precedent.

În ceea ce priveşte sistemele de IA cu grad ridicat de risc, amenzile pot ajunge până la 15 milioane EUR sau 3% din cifra de afaceri mondială totală anuală pentru exerciţiul financiar precedent.

Apreciem că angajatorii vor trebui să aibă în vedere şi amenzile care pot fi aplicate pentru nerespectarea dispoziţiilor în materia protecţiei datelor cu caracter personal. Pentru uşurinţă, reiterăm că acestea pot ajunge, în funcţie de încălcare, până la 20 de milioane EUR sau, în cazul unei întreprinderi, de până la 4% din cifra de afaceri mondială totală anuală corespunzătoare exerciţiului financiar anterior, luându-se în calcul cea mai mare valoare.

Concluzii şi recomandări

Deşi obligaţiile privind sistemele de IA cu grad ridicat de risc vor intra în vigoare pe 2 august 2027, societăţile care intenţionează să implementeze astfel de instrumente înainte de acest termen ar trebui să ia în considerare următoarele:

>efectuarea unei analize a sistemelor de IA, pentru a determina categoriile de risc în care se încadrează;

>informarea salariaţilor şi a reprezentanţilor, după caz, cu privire la implicarea acestora în utilizarea sistemelor de IA cu grad ridicat de risc la locul de muncă;

>instruirea adecvată a salariaţilor prin organizarea de training-uri sau prin elaborarea unor politici interne privind implicaţiile aferente introducerii tehnologiilor de IA în relaţiile de muncă;

>desemnarea persoanelor responsabile cu supravegherea umană a sistemelor, prin introducerea atribuţiilor corespunzătoare în fişa postului sau prin crearea unei noi funcţii în cadrul organigramei.