Regulamentul UE privind Inteligenţa Artificială: Noile interdicţii şi obligaţii aplicabile din 2 februarie 2025

Începând cu 2 februarie 2025, au intrat în vigoare prevederile Capitolului I şi II din Regulamentul UE 2024/1689 privind utilizarea inteligenţei artificiale ("EU AI Act"), potrivit unui comunicat emis redacţiei.. Aceste dispoziţii stabilesc obligaţia de alfabetizare în domeniul IA şi interzic utilizarea sistemelor care prezintă riscuri inacceptabile pentru drepturile fundamentale şi valorile Uniunii Europene.

Furnizorii şi utilizatorii de sisteme IA sunt acum obligaţi să asigure un nivel adecvat de pregătire pentru personalul implicat în operarea acestora. Regulamentul defineşte alfabetizarea IA ca fiind competenţele şi cunoştinţele necesare pentru utilizarea în siguranţă a inteligenţei artificiale, cu accent pe conştientizarea riscurilor şi impactului acesteia. Deşi nu sunt prevăzute sancţiuni specifice pentru neîndeplinirea acestei obligaţii, nivelul de conformitate ar putea fi luat în considerare în cazul altor încălcări ale regulamentului.

Tot de la 2 februarie 2025, sunt interzise sistemele IA care manipulează utilizatorii prin tehnici subliminale sau înşelătoare, afectând capacitatea acestora de a lua decizii informate. De asemenea, este interzisă exploatarea vulnerabilităţilor persoanelor pe baza vârstei, dizabilităţilor sau statutului socio-economic. Regulamentul interzice şi utilizarea inteligenţei artificiale pentru implementarea unui sistem de scor social, în care persoanele sunt evaluate şi clasificate în funcţie de comportament sau alte atribute personale, ceea ce ar putea conduce la tratamente discriminatorii în contexte nejustificate.

Sistemele IA destinate exclusiv profilării infracţionale şi evaluării riscului de comportament infracţional sunt, de asemenea, interzise. Crearea sau extinderea bazelor de date de recunoaştere facială prin colectarea automată a imaginilor de pe internet sau din sisteme de supraveghere CCTV nu mai este permisă. În plus, regulile interzic utilizarea inteligenţei artificiale pentru deducerea emoţiilor la locul de muncă sau în educaţie, cu excepţia cazurilor justificate din motive medicale sau de siguranţă. De asemenea, sistemele de clasificare biometrică ce pot identifica informaţii sensibile, cum ar fi rasa, opiniile politice sau orientarea sexuală, sunt restricţionate, potrivit aceleiaşi surse.

O măsură importantă a regulamentului este interzicerea utilizării tehnologiilor de identificare biometrică la distanţă, în timp real, în spaţii publice de către forţele de ordine, cu anumite excepţii clar definite. Sancţiunile pentru nerespectarea acestor interdicţii vor intra în vigoare la 2 august 2025 şi pot ajunge la 35 milioane de euro sau 7% din cifra de afaceri anuală globală a entităţii în culpă.

Regulamentul are o aplicabilitate extinsă, vizând furnizorii care introduc pe piaţa UE sisteme IA, indiferent de locul în care sunt înregistraţi, utilizatorii de astfel de sisteme din Uniune, precum şi entităţile din afara UE ale căror servicii IA sunt utilizate pe teritoriul european. Producătorii de produse care includ sisteme IA ca parte integrantă sunt şi ei supuşi noilor reglementări.