PE a adoptat legea privind inteligenţa artificială

PE a aprobat astăzi Legea privind inteligenţa artificială, care garantează siguranţa şi respectarea drepturilor fundamentale şi stimulează inovaţia, conform unui comunicat remis redacţiei.

Potrivit comunicatului, regulamentul, convenit în decembrie 2023 în cadrul negocierilor cu statele membre, a fost adoptat de deputaţii europeni cu 523 voturi pentru, 46 împotrivă şi 49 abţineri.

El urmăreşte să protejeze drepturile fundamentale, democraţia, statul de drept şi sustenabilitatea mediului în faţa sistemelor de IA cu grad ridicat de risc. Actul legislativ vizează şi să încurajeze inovaţia şi să asigure un rol de lider în domeniu pentru Europa. Regulamentul impune obligaţii în cazul inteligenţei artificiale, în funcţie de riscurile sale potenţiale şi de impactul preconizat, potrivit sursei citate.

Noile norme interzic anumite utilizări ale inteligenţei artificiale care ameninţă drepturile cetăţenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor. Extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu circuit închis pentru a crea baze de date de recunoaştere facială se numără şi ea printre utilizările interzise, informează comunicatul.

Nu vor fi permise nici recunoaşterea emoţiilor la locul de muncă şi în şcoli, atribuirea unui punctaj social, sistemele de poliţie predictivă (când acestea se bazează doar pe stabilirea profilului unei persoane sau pe analizarea caracteristicilor sale) şi IA care manipulează comportamentul uman sau exploatează vulnerabilităţile oamenilor, se arată în comunicat.

Folosirea sistemelor de identificare biometrică de către organele de aplicare a legii este în principiu interzisă, cu excepţia unor situaţii enumerate în mod exhaustiv şi definite în mod strict. Sistemele de identificare biometrică "în timp real" pot fi instalate doar dacă se respectă garanţii stricte, de exemplu, dacă folosirea lor este limitată în timp şi geografic şi este aprobată în prealabil de o autoritate judiciară sau de un organ administrativ, se menţionează în comunicat.

Ele pot fi folosite, de pildă, pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist. Folosirea acestor sisteme post-facto (sistemele de identificare biometrică "ulterioară") este considerată un caz de utilizare cu grad ridicat de risc şi este posibilă doar în virtutea emiterii unei autorizaţii judiciare legate de o infracţiune penală, potrivit comunicatului.

Textul prevede şi obligaţii clare pentru alte sisteme de IA cu grad ridicat de risc, din cauza potenţialului lor ridicat de a afecta negativ sănătatea, siguranţa, drepturile fundamentale, mediul, democraţia şi statul de drept. Iată câteva exemple de utilizări ale IA care prezintă un grad ridicat de risc: infrastructura critică, educaţia şi formarea profesională, serviciile publice şi private esenţiale (sănătatea, serviciile bancare etc.), unele sisteme folosite de organele de aplicare a legii, migraţia şi gestionarea frontierelor, justiţia şi procesele democratice (de exemplu, pentru a preveni influenţarea alegerilor). Aceste sisteme trebuie să evalueze şi să reducă riscurile, să menţină aşa-numite "fişiere de jurnalizare" care permit înregistrarea automată a evenimentelor, să fie transparente şi precise şi să facă obiectul supravegherii umane. Cetăţenii vor avea dreptul să depună plângeri în legătură cu sistemele de IA şi să primească explicaţii despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care le afectează drepturile, se relatează în comunicat.

Sistemele de inteligenţă artificială de uz general şi modelele de IA de uz general pe care se bazează acestea trebuie să respecte anumite cerinţe în materie de transparenţă, inclusiv legislaţia UE în domeniul drepturilor de autor şi publicarea unor rezumate detaliate ale conţinutului utilizat la antrenarea modelelor de IA, informează comunicatul. Modelele mai puternice pentru sistemele IA de uz general care ar putea prezenta riscuri sistemice vor trebui să respecte cerinţe suplimentare, inclusiv privind evaluarea modelelor, evaluarea şi reducerea riscurilor sistemice şi raportarea incidentelor. În plus, imaginile şi conţinuturile audio şi video artificiale sau manipulate (de tip "deepfake") trebuie să fie etichetate clar ca atare, conform comunicatului. La nivel naţional va fi obligatoriu să se creeze spaţii de testare în materie de reglementare şi să se organizeze testări în condiţii reale. IMM-urile şi companiile nou-înfiinţate vor trebui să aibă acces la aceste instrumente pentru a dezvolta şi antrena IA inovatoare, înainte de introducerea lor pe piaţă, potrivit sursei menţionate.