UE va reglementa pentru prima dată inteligenţa artificială

Uniunea Europeană a ajuns la un acord asupra unei legislaţii revoluţionare pentru reglementarea inteligenţei artificiale (IA), după trei zile de negocieri intense între statele membre şi Parlamentul European, informează news.ro.

Colegislatorii UE au ajuns la un "acord politic" asupra unui text care ar trebui să încurajeze inovarea în Europa, limitând în acelaşi timp posibilele abuzuri ale acestor tehnologii extrem de avansate.

"Istoric! UE a devenit primul continent care stabileşte reguli clare pentru utilizarea inteligenţei artificiale", a declarat comisarul european Thierry Breton, care a stat la baza proiectului prezentat în aprilie 2021.

De atunci, discuţiile s-au prelungit. Ultima rundă de negocieri, care a început miercuri după-amiază, a durat aproape 35 de ore...

Procesul a fost dat peste cap la sfârşitul anului trecut de apariţia ChatGPT, generatorul de texte al companiei californiene OpenAI, capabil să scrie eseuri, poezii sau traduceri în câteva secunde.

Acest sistem, ca şi cele capabile să creeze sunete sau imagini, a dezvăluit publicului larg potenţialul imens al IA. Dar există şi anumite riscuri. Difuzarea de fotografii false pe reţelele de socializare, de exemplu, a avertizat asupra pericolului manipulării opiniei.

Fenomenul de inteligenţă artificială generativă a fost inclus în negocierile actuale, la cererea deputaţilor europeni care insistă asupra unui cadru specific pentru acest tip de tehnologie cu impact puternic. Aceştia au solicitat în special o mai mare transparenţă în ceea ce priveşte algoritmii şi bazele de date gigantice care stau la baza acestor sisteme.

Acordul politic la care s-a ajuns vineri seară trebuie completat de lucrări tehnice pentru a finaliza textul. "Vom analiza cu atenţie compromisul la care s-a ajuns astăzi şi ne vom asigura, în următoarele săptămâni, că textul păstrează capacitatea Europei de a-şi dezvolta propriile tehnologii de inteligenţă artificială şi îi protejează autonomia strategică", a comentat ministrul francez pentru afaceri digitale, Jean-Noël Barrot.

Sectorul tehnologic este esenţial. "Viteza pare să fi prevalat asupra calităţii, cu consecinţe potenţial dezastruoase pentru economia europeană", a declarat Daniel Friedlaender, responsabil pentru Europa al CCIA, unul dintre principalele sale grupuri de lobby. În opinia sa, este acum "necesară" o "muncă tehnică" asupra unor detalii cruciale.

În ceea ce priveşte IA generativă, compromisul prevede o abordare cu două viteze. Vor fi impuse reguli pentru toată lumea pentru a asigura calitatea datelor utilizate în dezvoltarea algoritmilor şi pentru a verifica dacă aceştia nu încalcă legislaţia privind drepturile de autor.

De asemenea, dezvoltatorii vor trebui să se asigure că sunetele, imaginile şi textele pe care le produc sunt clar identificate ca fiind artificiale.

Constrângeri mai stricte se vor aplica doar celor mai puternice sisteme.

Textul se bazează pe principiile reglementărilor europene în vigoare privind siguranţa produselor, care impun controale ce ţin în primul rând de responsabilitatea companiilor.

Elementul central al proiectului constă într-o listă de reguli impuse doar sistemelor considerate "cu risc ridicat", în esenţă cele utilizate în domenii sensibile, cum ar fi infrastructura critică, educaţia, resursele umane sau aplicarea legii.

Aceste sisteme vor fi supuse unei serii de obligaţii, cum ar fi asigurarea unui control uman asupra maşinii, întocmirea unei documentaţii tehnice şi instituirea unui sistem de gestionare a riscurilor.

Legislaţia prevede o supraveghere specială a sistemelor de inteligenţă artificială care interacţionează cu oamenii. Acestea vor fi obligate să informeze utilizatorii că interacţionează cu o maşină.

Interdicţiile vor fi rare. Acestea se vor referi la aplicaţii care contravin valorilor europene, cum ar fi sistemele de evaluare a cetăţenilor sau de supraveghere în masă utilizate în China, sau identificarea biometrică la distanţă a persoanelor în locuri publice pentru a evita supravegherea în masă a populaţiei.

Cu toate acestea, în ceea ce priveşte acest ultim aspect, statele membre au obţinut derogări pentru anumite misiuni de aplicare a legii, cum ar fi lupta împotriva terorismului.

Spre deosebire de codurile de conduită voluntare ale anumitor ţări, legislaţia europeană va fi dotată cu mijloace de monitorizare şi de impunere a sancţiunilor, odată cu crearea unui Birou european pentru IA în cadrul Comisiei Europene.

Acesta va putea impune amenzi de până la 7% din cifra de afaceri, cu un plafon de 35 de milioane de euro, pentru cele mai grave infracţiuni.