Parlamentul European reglementează strict utilizarea Inteligenţei Artificiale

Parlamentul European a dezbătut, ieri, un regulament mai strict privind Inteligenţa Artificială, comparativ cu propunerea legislativă înaintată de Comisia Europeană, regulament ce prevede mai multe interdicţii în privinţa utilizării AI.

În deschiderea dezbaterii de ieri, Dragoş Tudorache, europarlamentar din partea grupului Renew Europe şi coraportor cu privire la acest regulament, a afirmat: "Este momentul oportun să reglementăm utilizarea inteligenţei artificiale, deoarece ea are deja un impact profund asupra vieţii economice şi sociale. Autoreglementarea nu e suficientă, mai ales că marii giganţi tehnologici au declarat că se tem de ceea ce poate face Inteligenţa Artificială. Ne-am pregătit asiduu, cu responsabilitate pe acest dosar şi am încercat să definim Inteligenţa Artificială într-o manieră agreată, nu de toate grupurile politice, dar într-o manieră care să fie conformă definiţiilor date de OCDE şi SUA. IMM-urile şi start-up-urile europene pot beneficia de o reţea solidă la nivel european pentru noile tehnologii şi cu care să creeze un plus de încredere în produsele proprii. Am creat instrumentele pentru crearea unei pieţe unice privind noile tehnologii, pentru ca Europa să fie pregătită pentru viitor privind Inteligenţa Artificială. Am încercat să asigurăm respectarea drepturilor cetăţenilor. Nu vrem supraveghere în masă, nu vrem un screening social, nu vrem un stat poliţienesc în Europa, ci vrem ca toate statele sa fie responsabile, transparente şi să respecte principul supervizării responsabile. Vrem reguli care să fie flexibile, să poată evolua şi să se asigure că instrumentele utilizate de milioane de oameni sunt sigure.

Am introdus o serie de elemente de formare. Cu toată răspunderea, vă spun că scriem în prezent istoria şi structurăm utilizarea Inteligenţei Artificiale în direcţia justă, având în centru fiinţa umană".

La rândul său, vicepreşedintele Comisiei Europene, Margrethe Vestager, Comisar european pentru Concurenţă, a declarat: "Într-adevar este un act legislativ major, e un act istoric. Parlamentul European a ajuns la un compormis ce sintetizează peste 3300 de amendamente configurând o reglementare generală în privinţa Inteligenţei Artificiale. În materie de tehnologie, cel mai important lucru este să ai încredere în ea, să o adopţi şi să o îmbrăţişezi ca să o poţi controla. Încercăm prin această reglementare să creăm un plus de încredere, o certitudine jurdidică pentru a permite Inteligenţei Artificiale să evolueze în societatea noastră, în industrie, în educaţie, în sănătate, etc. Toată lumea îşi dă seama că trăim un moment important şi este momentul oportun pentru reglementarea Inteligenţei Artificiale. Mă bucur că s-a înţeles că abordarea bazată pe riscuri este cea care trebuie să fie preferată în această reglementare".

Comisarul european pentru piaţa internă, Thierry Breton, a spus: "Suntem continentul cu sistemul democratic cel mai în măsură de a face această reglementare în mod echilibrat şi transparent şi de a stabili progresiv o normă mondială. Vom fi prima jurisdicţie la nivel mondial care va stabili o legislaţie clară, uşor de înţeles, care abordează riscurile pe care le pot reprezenta aplicaţiile care utilizează Inteligenţa Artificială. De aceea, trebuie să acţionăm cu răspundere politică în stabilirea acestui cadru de reglementare. Sunt mulţumit de abordarea bazată pe riscuri propusă de Comisie. Constat că raportul Parlamentului European a introdus chestiuni noi cum ar fi clasificarea riscurilor, deepfake şi guvernanţa. Observ că Parlamentul European, Consiliul UE şu Comisia au o înţelegere comună în privinţa necesităţii de a acţiona şi de a face lucrurile transparent în privinţa Inteligenţei Artificiale generative. Avem de asemenea o abordare privind viziunea părtinitoare şi dezinformarea, teme de care trebuie să ţinem cont. Această lege va intra în vigoare abia în anul 2026, dar după votarea ei trebuie să transmitem un mesaj clar tututor actorilor din acest domeniu. Mesajul trebuie să se refere la sprijinirea întreprinderilor în implementarea acestui regulament, pentru ca tranzişia să se facă uşpr şi rapid. Trebuie să pregatim firmele pentru provocările implementării acestui regulament. Vă garantez că nu vom accepta nicio interferenţă pe subiecte atât de esenţiale, cum e Inteligenţa Artificială, din partea nimănui, fie că reprezintă interese private sau externe. Vom începe după vot, cât de curând, trialogul până vom ajunge la un acord".

"Inteligenţa Artificială e un instrument ce poate aduce beneficii în multe sectoare de activitate. Este nevoie să reglementam domeniile în care există riscuri majore în privinţa respectării drepturilor omului, a siguranţei dar trebuie să găsim un echilibru între inovare şi dezvoltare. Nu putem să impunem condiţii drastice, acolo unde nu este cazul", a spus deputatul european Vlad Botoş, Renew Europe.

• Sistemele bazate pe IA care pot duce la discriminări vor fi interzise

În cadrul dezbaterii, parlamentarii europeni au reliefat riscurile pe care le implică utilizarea AI fără o reglementare strictă şi au spus că este nevoie de introducerea unor interdicţii de utilizare a unor sisteme, aplicaţii şi softuri care utilizează Inteligenţa Artificială. În motivarea acestor interdicţii, deputaţii europeni arată că, pe lângă numeroasele utilizări benefice ale inteligenţei artificiale, această tehnologie poate fi utilizată greşit şi poate oferi instrumente noi şi puternice pentru practicile de manipulare, exploatare şi control social.

De aceea, ei susţin că trebuie interzisă "introducerea pe piaţă, punerea în funcţiune sau utilizarea anumitor sisteme de inteligenţă artificială cu scopul sau ca efect de denaturare materială a comportamentului uman, prin care este posibil să apară vătămări fizice sau psihologice".

"Această limitare ar trebui să fie înţeleasă ca privind neuro-tehnologiile asistate de AI care sunt utilizate pentru a monitoriza, utiliza sau influenţa datele neuronale colectate prin interfeţele creier-calculator în măsura în care denaturează în mod material comportamentul unei persoane fizice într-o manieră care provoacă sau este de natură să provoace acelei persoane sau altei persoane un prejudiciu semnificativ. (...) Nu este necesar ca furnizorul sau angajatorul să aibă intenţia de a provoca un prejudiciu semnificativ, atâta timp cât un astfel de prejudiciu rezultă din practicile de manipulare sau exploatare activate de IA. Interdicţiile pentru astfel de practici de IA sunt complementare prevederilor cuprinse în Directiva 2005/29/CE, potrivit cărora practicile comerciale neloiale sunt interzise, indiferent dacă acestea au fost efectuate folosind sisteme de IA sau altfel", se arată în ddocumentul citat.

Parlamentarii europeni consideră că aplicaţiile sau softurile ce folosesc inteligenţa artificială pentru clasificarea persoanelor fizice prin atribuirea acestora în categorii specifice, în funcţie de caracteristicile sensibile sau protejate cunoscute sau deduse sunt deosebit de intruzive, încalcă demnitatea umană, prezintă un risc mare de discriminare şi de aceea trebuie interzise.

De asemenea vor fi interzise şi sistemele de inteligenţă artificială care oferă scoruri sociale ale persoanelor fizice, care pot duce la rezultate discriminatorii şi la excluderea anumitor grupuri.

"Aceste scoruri încalcă dreptul la demnitate şi nediscriminare şi valorile egalităţii şi justiţiei. Astfel de sisteme AI evaluează sau clasifică persoane fizice sau grupuri pe baza mai multor puncte de date şi apariţii temporale legate de comportamentul lor social în mai multe contexte cunoscute sau deduse, ori legate de caracteristicile personale sau de personalitate prezise. Scorul social obţinut din astfel de sisteme de inteligenţă artificială poate duce la tratament dăunător sau nefavorabil al persoanelor fizice sau al unor grupuri întregi în contexte sociale, care nu au legătură cu contextul în care datele au fost generate sau colectate iniţial sau la un tratament dăunător care este disproporţionat sau nejustificat faţă de gravitatea comportamentului lor social", susţin deputaţii europeni.

• Identificarea biometrică de masă, mărul discordiei din Parlamentul European

Interzisă va fi şi utilizarea Inteligenţei Artificiale pentru identificarea biometrică de masă, de la distanţă "în timp real" a persoanelor fizice aflate în spaţii publice, deoarece această utilizare este deosebit de intruzivă pentru drepturile şi libertăţile persoanelor în cauză şi poate afecta în cele din urmă viaţa privată a unei mari părţi a populaţiei, evocând un sentiment de supraveghere constantă şi oferind părţilor care desfăşoară identificarea biometrică în spaţii accesibile publicului o poziţie de putere incontrolabilă, care va duce la descurajarea exercitării libertăţii de întrunire şi a altor drepturi fundamentale care stau la baza statului de drept.

"Inexactităţile tehnice ale sistemelor AI destinate identificării biometrice de la distanţă a persoanelor fizice pot duce la rezultate părtinitoare şi pot genera efecte discriminatorii. Acest lucru este deosebit de relevant atunci când vine vorba de vârstă, etnie, sex sau dizabilităţi. În plus, impactul imediat şi oportunităţile limitate de verificări sau corecţii ulterioare în legătură cu utilizarea unor astfel de sisteme care funcţionează «în timp real» implică riscuri sporite pentru drepturile şi libertăţile persoanelor vizate de activităţile de aplicare a legii. Prin urmare, utilizarea acestor sisteme în locuri accesibile publicului trebuie interzisă. În mod similar, sistemele de inteligenţă artificială utilizate pentru analiza filmărilor înregistrate ale spaţiilor accesibile publicului prin intermediul sistemelor de identificare biometrică la distanţă «post» ar trebui, de asemenea, interzise, cu excepţia cazului în care există o autorizaţie prejudiciară de utilizare în contextul aplicării legii, atunci când este strict necesar pentru persoanele vizate o percheziţie legată de o anumită infracţiune gravă care a avut deja loc", se precizează în documentul citat.

Acest amendament a fost cel mai dezbătut ieri în Parlamentul European, deoarece o parte dintre membrii Partidului Popular European susţin că identificarea biometrică în masă a persoanelor ar putea fi păstrată în cazul dispariţiilor/răpirilor copiilor şi în cazurile privind terorismul. Ei au fost criticaţi dur de parlamentarii din celelalte grupuri politice care au precizat că până acum acest tip de identificare biometrică nu a prevăzut niciun act terorist, nu l-a întrerupt, ba mai mult au fost arestaţi eronat mai mulţi oameni şi a constituit un instrument de supraveghere în statele autoritare precum Federaţia Rusă şi China. Deputaţii conservatori din Parlamentul European au spus că, în ciuda regulamentului, statele vor continua să folosească inteligenţa artificială pentru supravegherea permanentă a persoanelor, pentru monitorizarea fiecărui individ şi nu pentru servicii de sănătate şi educaţie mai performante.

Brando Benifei, coraportor, a precizat că proiectul de regulament deja prevede ca identificarea biometrică să fie făcută doar după săvârşirea unei infracţiuni şi numai cu mandatul emis de un judecător.

• Prezumţia de nevinovăţie - motiv determinant pentru interzicerea unor sisteme bazate pe AI

Parlamentarii europeni doresc şi interzicerea utilizării inteligenţei artificiale de către autorităţi pentru întocmirea de prognoze sau evaluări ale riscurilor bazate pe profilul unor persoane fizice sau pe analiza datelor pe baza trăsăturilor şi caracteristicilor de personalitate, inclusiv prin stabilirea locaţiei persoanei sau întocmirea istoriculului unui comportament infracţional al persoanelor fizice sau al grupurilor de persoane, în scopul prevenirii săvârşirii unei infracţiuni penale sau altor comportamente sociale incriminate, a unor infracţiuni administrative. Deputaţii europeni consideră că o astfel de utilizare a inteligenţei artificiale prezintă un risc deosebit, deoarece încalcă demnitatea umană, precum şi principiul prezumţiei de nevinovăţie.

Textul de regulament pentru Inteligenţa Artificială, întocmit de Parlamentul European, mai arată:

"Există îngrijorări serioase cu privire la baza ştiinţifică a sistemelor AI care urmăresc să detecteze emoţii, trăsături fizice sau fiziologice, cum ar fi expresiile faciale, mişcările, frecvenţa pulsului sau vocea. Emoţiile sau expresiile emoţiilor şi percepţiile acestora variază considerabil între culturi şi situaţii şi chiar în cadrul unui singur individ. Printre deficienţele cheie ale unor astfel de tehnologii se numără fiabilitatea limitată (categoriile de emoţii nu sunt exprimate în mod fiabil prin şi nici asociate fără echivoc cu un set comun de mişcări fizice sau fiziologice), lipsa de specificitate (expresiile fizice sau fiziologice nu se potrivesc perfect cu emoţia) şi generalizarea limitată (efectele contextului şi culturii nu sunt suficient luate în considerare). Probleme de fiabilitate şi, în consecinţă, riscuri majore de abuz, poate apărea în special la implementarea sistemului în situaţii reale legate de aplicarea legii, managementul frontierelor, la locul de muncă şi instituţiile de învăţământ. Prin urmare, trebuie interzisă introducerea pe piaţă, punerea în funcţiune sau utilizarea sistemelor AI destinate a fi utilizate în aceste contexte pentru a detecta starea emoţională a indivizilor".

• Reglementare în folosul cetăţenilor şi mediului antreprenorial

Practic, prin interdicţiile impuse utilizării anumitor sisteme de inteligenţă artificială, deputaţii europeni doresc ca în utilizarea IA în centrul atenţiei să fie fiinţa umană şi o relaţie de încredere care să se bazeze pe respectarea drepturilor fundamentale şi valorilor Uniunii Europene.

Mai mult, regulamentul privind AI prevede susţinerea inovării şi mediului de afaceri.

Astfel, potrivit textului dezbătut de Parlamentul European, "Inteligenţa artificială este o familie de tehnologii cu evoluţie rapidă care poate şi contribuie deja la o gamă largă de beneficii economice, de mediu şi societale în întregul spectru de industrii şi activităţi sociale, dacă este dezvoltată în conformitate cu principiile generale relevante, în conformitate cu Carta şi valorile pe care se întemeiază Uniunea Europeană. Prin îmbunătăţirea predicţiei, optimizarea operaţiunilor şi alocarea resurselor şi personalizarea soluţiilor digitale disponibile pentru indivizi şi organizaţii, utilizarea inteligenţei artificiale poate oferi companiilor avantaje competitive cheie şi poate sprijini rezultate benefice din punct de vedere social şi ecologic, de exemplu în domeniul sănătăţii, agriculturii, siguranţa alimentară, educaţie şi formare profesională, mass-media, sport, cultură, managementul infrastructurii, energie, transport şi logistică, managementul crizelor, servicii publice, securitate, justiţie, eficienţă a resurselor şi energie, monitorizarea mediului, conservarea şi restaurarea biodiversităţii şi a ecosistemelor şi atenuarea şi adaptarea la schimbările climatice".

Deputaţii europeni consideră că, având în vedere impactul major pe care inteligenţa artificială îl poate avea asupra societăţii şi nevoia de a construi încredere, este vital ca inteligenţa artificială şi cadrul său de reglementare să fie dezvoltate în conformitate cu valorile Uniunii Europene şi cu drepturile şi libertăţile fundamentale ale omului.

"Ca o condiţie prealabilă, inteligenţa artificială ar trebui să fie o tehnologie centrată pe om. Ea nu trebuie să înlocuiască autonomia umană sau să presupună pierderea libertăţii individuale şi ar trebui să servească în primul rând nevoilor societăţii şi binelui comun. De aceea este nevoie de garanţii pentru a asigura dezvoltarea şi utilizarea inteligenţei artificiale încorporate din punct de vedere etic, care respectă valorile Uniunii şi Carta", se arată în textul dezbătut ieri în Parlamentul European.

• Alfabetizarea AI - element definitoriu pentru diminuarea riscurilor utilizării noilor tehnologii

Deputaţii europeni consideră că sistemele de inteligenţă artificială utilizate pentru a influenţa sau modela dezvoltarea minorilor au un risc ridicat, deoarece copiii sunt o categorie deosebit de vulnerabilă. Tot sisteme AI cu risc ridicat sunt considerate şi cele utilizate de candidaţi sau partide pentru a influenţa voturile la alegerile locale, naţionale sau europene, precum şi sistemele AI utilizate pentru a numărarea voturilor, deoarece au potenţialul, prin influenţarea unui număr mare de cetăţeni ai Uniunii, să influenţeze însăşi funcţionarea sistemului democratic european. Printre sistemele AI cu risc ridicat ce trebuie reglementate se numără şi cele utilizate pentru triajul pacienţilor din sectorul de asistenţă medicală şi sistemele folosite pentru deteminarea eligibilităţii pentru asigurări de sănătate şi de viaţă.

Din cauza potenţialului lor de informaţii false, două tipuri de sisteme AI ar trebui să fie supuse atât cerinţelor de transparenţă, cât şi cerinţelor de conformitate ale sistemelor AI cu risc ridicat: deepfakes care uzurpă identitatea unor persoane reale şi conţinutul editorial scris de AI ("autori AI").

Cu toate acestea, sistemele de IA cu risc ridicat nu sunt interzise şi nici nu sunt considerate indezirabile, dar trebuie să respecte anumite cerinţe de conformitate prevăzute în regulamentul care va fi obligatoriu în toate statele UE.

De aceea, parlamentarii europeni au introdus în dezbaterea privind regelementarea respectivă noţiunea de alfabetizare AI. Potrivit definiţiei dată de Parlamentul European, "alfabetizarea IA" se referă la abilităţi, cunoştinţe şi înţelegere care le permit furnizorilor, utilizatorilor şi persoanelor afectate, ţinând cont de drepturile şi obligaţiile lor respective în contextul prezentului regulament, să implementeze în cunoştinţă de cauză sistemele IA, precum şi să obţină un anumit grad de conştientizare cu privire la oportunităţile şi riscurile IA şi posibilele prejudicii pe care le poate provoca.

"Alfabetizarea IA nu ar trebui să se limiteze la învăţarea despre instrumente şi tehnologii, ci ar trebui, de asemenea, să urmărească să doteze furnizorii şi utilizatorii cu noţiunile şi abilităţile necesare pentru a asigura respectarea şi punerea în aplicare a prezentului regulament. Prin urmare, este necesar ca Comisia, statele membre, precum şi furnizorii şi utilizatorii de sisteme IA, în cooperare cu toate părţile interesate relevante, să promoveze dezvoltarea unui nivel suficient de alfabetizare în IA", arată textul propus şi dezbătut de Parlamentul European.

• Monitorizare permanentă la nivel european şi naţional al utilizării AI

Mai multe prevederi din regulamentul dezbătut de Parlamentul European şi care va fi votat în întregime astăzi se concentrează pe guvernanţă şi aplicare, deoarece acestea sunt elemente cheie pentru a permite implementarea eficientă şi consecventă a Actului AI în întreaga Uniune şi, prin urmare, contribuie la crearea unei adevărate pieţe unice pentru IA.

În acest scop, sarcinile Consiliului AI ce va fi constituit la nivel european au fost sporite. Consiliul AI va juca un rol mai important în aplicarea uniformă a regulamentului şi în furnizarea de consiliere şi recomandări Comisiei Europene - de exemplu cu privire la necesitatea modificării unor anexe - şi autorităţilor naţionale de supraveghere. Consiliul va acţiona ca un forum de schimb între autorităţile naţionale de supraveghere şi va fi un loc de arbitraj al litigiilor care implică două sau mai multe autorităţi ale statelor membre, pentru a evita fragmentarea pieţei unice prin diferenţieri legislative interne. În plus, având în vedere rolul şi responsabilităţile sale sporite, Consiliul va organiza, de cel puţin două ori pe an, consultări cu industria, întreprinderile nou-înfiinţate şi IMM-urile, societatea civilă şi mediul academic.

Pentru abordarea unor posibile probleme care ar afecta persoanele din mai multe state membre, Parlamentul propune constituirea unui nou mecanism de aplicare de către Comisia Europeană, mecanism care să fie declanşat în cazurile care constituie încălcări pe scară largă (trei sau mai multe state membre), inclusiv în cazul inacţiunii cu privire la o încălcare care are impact cel puţin trei state membre. Acest mecanism, bazat pe modelul Legii privind serviciile digitale, dar adaptat naturii diferite a legislaţiei privind inteligenţa artificială, îşi propune să abordeze unele dintre problemele de punere în aplicare care au fost observate în alte configuraţii de guvernare, pentru a contribui la implementarea uniformă a prezentului regulament, şi pentru a consolida piaţa unică digitală. Potrivit mecanismului, în astfel de cazuri de încălcări pe scară largă, Comisia ar trebui să aibă competenţele unei autorităţi de supraveghere a pieţei la nivel european.

Votul privind regulamentul privind Inteligenţa Artificială va fi exprimat azi de plenul Parlamentului European.