OPINII Beneficiile şi provocările deciziilor luate de inteligenţa artificială

Viteza cu care evoluează tehnologia aduce tot mai aproape scenarii precum calcularea primei de asigurare de sănătate pe baza comportamentului fiecărei persoane sau a asigurării auto RCA în funcţie de stilul de condus şi de datele colectate de la autoturism în acest sens. Acesteipoteze presupun utilizarea tehnologiilor de tipul AI (inteligenţă artificială) care, dincolo de beneficiile semnificative pe care le oferă, presupun şi riscuri cu privire la respectarea drepturilor şi libertăţilor fundamentale ale persoanelor vizate. La nivel european există, în ultimii ani, preocupări intense în legătură cu acest subiect, cu scopul de a protejaconsumatorii, însăfără a frâna utilizarea tehnologilor de acest tip.

Inteligenţa artificială este deja intens utilizată în domenii diverse, iar avantajele sunt evidente. Oficialii europeni susţin însă că folosireainteligenţei artificiale trebuie să ţină cont şi de faptul că aceasta poateaduce prejudicii semnificative persoanelor vizate, atât de ordin material, cât şi moral. Totodată, aceştia recunosc că, în practică, persoanele afectate pot întâmpina dificultăţi în exercitarea drepturilor lor în legătură cu anumite decizii luate de inteligenţa artificială.

În zona de publicitate şi marketing, în comerţulonline, în procesele de segmentare a audienţei vizate şi de personalizare a mesajelorde promovarefolositedeplatforme online, aplicaţii sau site-uri, se utilizeazădeja diferite procese decizionale automate, inclusiv de tipul inteligenţei artificiale. Aşa cum arată şi Comisia Europeană în documentele emise în legătură cu acest subiect, AI este utilizată de intermediarii online pentru a stabili prioritatea informaţiilor destinate clienţilor şi pentru a asigura modelarea conţinutului. Dar datele prelucrate, modul în care sunt concepute aplicaţiile şi posibilităţile de intervenţie umană pot afecta drepturile la libertatea de exprimare, la protecţia datelor cu caracter personal şi avieţii private, precum şi libertăţile politice. Din ce în ce mai multe programe decalculator personalizează experienţa utilizatorilor în mediul online, pe baza informaţiilorcolectate despre aceştia referitoare la activitate, modul de petrecere a timpului, preferinţe, informaţii tranzacţionale etc.

Implicaţiile utilizării AI şi conformarea culegislaţia în vigoare

Având în vedere că, din perspectiva protecţiei datelor cu caracter personal, există riscuride prelucrare intruzivă şi de "etichetare" a utilizatorilor, discuţiile cu privire la folosirea unei soluţii sau aplicaţii software care poate presupune şi AI se concentrează în jurul a două idei. Prima este legată de etica juridică, în contextul potenţialului conflictdintreperspectiva de business şi perspectiva utilizatorului. Din acest punct de vedere, instrucţiunile transmise clienţilor trebuie să respecte anumite criterii de transparenţă şi să nu fie discriminatorii, îndeplinind în acelaşi timp aşteptările acestora, în special legate de UI - user infrastructure design (o comunicare vizuală estetică şi interacţiune plăcutăpentru utilizatori) şi UX - user experience (atenţie la detalii, empatie şi simplificarea proceselor pe care clienţii sunt nevoiţi să le parcurgă).

A doua idee este legată de conformarea cu legislaţia aplicabilă în zone precum protecţia consumatorilor, a drepturilor de proprietate intelectuală şi, mai ales, a datelor cu caracter personal. În această ultimă privinţă, conformarea nu reprezintă doar bifarea unor "termeni şi condiţii" sau redactarea unei "privacy policy"oria unei note de informare. În acest caz, sunt relevante aspecte precum alegerea sau validarea unui temei de prelucrare, recomandări în ceea ce priveşte instrucţiunile date motorului de personalizare (diferite de la un model de businessla altul), clarificări în legătură cu criteriile de profilare, cum se realizează efectivprofilarea şi gradul de intruziune, modalitatea în care se asigură intervenţia umană, asigurarea unui echilibru între ce înseamnă intruziv şi non-intruziv.

În acest context, având in vedere beneficiile semnificative pe care le implicăeconomia bazata pe date (data-driven economy), care includ şi dezvoltarea tehnologiilor de tipul AI, este apreciabilă preocuparea forurilor europene pentru definireaunui cadru legislativ care să garanteze că progresul tehnologic în domeniul digitalizării respectă drepturile şi libertăţile fundamentale ale persoanelor vizate.

Regulamentul general privind protecţia datelor cu caracter personal (GDPR)impuneo serie de reguli şi pune la dispoziţia persoanelor vizate mecanisme menite să le protejeze de riscurile ce pot apărea în legătură cu deciziile luate de AI (de exemplu, riscuri de discriminare, practici neloiale şi efecte de blocare). Cu toate acestea, mai sunt necesare iniţiative legislative sau, cel puţin, recomandări şi bune practici pentru identificarea celor mai potrivite mijloace care trebuie puse la dispoziţia persoanelor vizate pentru a-şi exercita drepturile, precum şi pentru adaptarea mecanismelor existente la provocările specifice utilizării AI în diferite sectoare.