Thoughtworks: "Nu ne putem permite, deocamdată, să trecem pe modulul pilot automat în privinţa ChatGPT şi a Inteligenţei Artificiale"

În acest moment nu ne putem permite să trecem pe modulul pilot automat în privinţa Inteligenţei Artificiale şi a ChatGPT şi avem nevoie de reglementări legale în acest domeniu, au susţinut, recent, într-o dezbatere la Bucureşti, specialiştii companiei Thoughtworks, James Lewis şi Andrew Hamel-Law.

James Lewis, Software Architect & Director, a precizat că în acest moment nu se poate estima ce se va întâmpla până la finalul anului 2023 privind ChatGPT pentru că lucrurile sunt într-o evoluţie permanentă, rapidă, a tehnologiei la nivel global, mai ales prin prisma programelor machine-learning şi a Inteligenţei Artificiale.

"Am avut o conversaţie recentă cu colegi, specialişti din Marea Britanie, şi îmi spuneau că nu pot să estimeze ce se va întâmpla peste două săptămâni, deoarece nu ştiu sigur ce va fi mâine. De aceea una din descrierile sau atribuţiile postului de inginer de sotfware este informarea permanentă, zilnică, privind noutăţile din domeniu. Mai alesc acum, când utilizarea ChatGPT pare să se generalizeze, este greu să spui unde va ajunge în următoarele 18 luni Inteligenţa Artificială, care va fi gradul său de evoluţie. Cred că nimeni nu poate face o prognoză pe următorii 10 ani în domeniul IT, în condiţiile actuale, când tehnologiile folosite evoluează rapid", a spus James Lewis.

El a arătat că un studiu recent realizat în Marea Britanie privitor la cât de pregătiţi suntem pentru utilizarea ChatGPT realizat pe 30-40 de companii care folosesc această aplicaţie, la întrebarea referitoare la conţinutul ştirilor/informaţiilor oferite de Chat GPT doar 13 companii s-au declarat mulţumite, în timp ce restul companiilor au susţinut că au primit fake-news-uri sau spam-uri din partea acesteia.

"Referitor la informaţiile false conţinute de ştirile furnizate de ChatGPT, este normal să fie aşa atât timp cât Inteligenţa Artificială colectează date din mai multe baze şi ştim că zilnic apar sute, mii sau poate zeci de mii de fake-news pe toate reţelele de socializare şi pe unele site-uri. În acest moment, observăm situaţia, ne aflăm în postura unui copilot care analizează fiecare decizie a pilotului şi caută metode de a îmbunătăţi performanţele acestuia. Trebuie să găsim metode prin care să limităm accesul acestuia la bazele de date false şi trebuie să facem acest lucru rapid, pentru că tehnologia evoluează uimitor de repede. Din păcate nu avem în acest moment niciun indiciu cu privire la ceea ce va fi peste jumătate de an. Chestiunea care se pune este dacă această tehnologie va deveni cu adevărat eficientă şi când se va întâmpla acest lucru. Haideţi să aşteptâm să vedem ce se întâmplă în următoarele 12 luni, pentru că este posibil să asistăm la apariţia unei noi tehnologii în oricare parte a Globului, despre care nu ştiam că se lucrează la ea. Cred că trebuie să ne asumăm acest test de a aştepta 12 luni, pentru că potenţialul pe care îl întrezărim este unul uriaş", a declarat James Lewis.

• ChatGPT creează probleme în evaluarea corectă a elevilor în sistemul educaţional din Marea Britanie

Specialistul companiei Thoughtworks a mai spus că "deocamdată nu ne putem permite să trecem pe pilot automat în privinţa ChatGPT", mai ales prin implicaţiile pe care aceasta le are în societate.

"Un exemplu în acest sens ne-a fost oferit de cadrele didactice din Marea Britanie, care au afirmat că înainte de apariţia ChatGPT majoritatea elevilor erau notaţi cu C- la matematică. Acum acest calificativ a devenit istorie, pentru că mulţi dintre elevi se folosesc la teme de informaţiile oferite de ChatGPT. Este deranj mare în sistemul educaţional din Marea Britanie din această cauză, pentru că avem calificative mari la matematică, dar care nu mai corespund nivelului individual de pregătire, de asimilare a cunoştinţelor pentru fiecare elev. De aceea se doreşte ca notarea elevilor să aibă loc numai în urma testării, a unor examene, pentru ca procesul educaţional să nu fie alterat de Chat GPT. Numai prin prisma acestui aspect vă închipuiţi ce efecte uriaşe are generalizarea utilizării acestei tehnologii asupra societăţii", a spus James Lewis.

De aceeaşi părere este şi Andrew Hamel-Law, Tech Principal în cadrul Thoughtworks, care susţine că în acest moment nu putem afirma că pregătirea copiilor pentru tehnologiile viitorului va fi în concordanţă cu ceea ce va fi în viitor.

"Putem să pregătim copiii cu ceea ce cunoaştem acum şi ce estimăm că va fi în următorii patru sau cinci ani, dar este greu de anticipat ce va fi peste 10 sau 20 de ani. Îi putem pregăti pe copii pentru a face ceea ce este util, îi putem pregăti în microelectronică, unde va fi nevoie de forţă de muncă şi peste 20 de ani", a spus Andrew Hamel-Law.

El a arătat că provocările sunt multiple privind utilizarea ChatGPT, dar nu ne mai putem întoarce în trecut.

"Poate că în acest moment 90% din informaţiile furnizate de ChatGPT sunt irelevante şi doar 10% sunt importante, necesare, dar lucrurile se îmbunătăţesc zilnic, accesarea a cât mai multe baze de date duce la evoluţia IA şi la reducerea procentului de informaţii irelevante. Asistăm la un proces permanent de învăţare, care nu se opreşte nicio secundă, se derulează în fiecare clipă, zi şi noapte, chiar dacă acum suntem nemulţumiţi că ChatGPT îşi schimbă răspunsurile în funcţie de variabilele pe care i le oferim. 90% dintre cunoscuţii mei dialoghează zilnic cu ChatGPT şi cred că această comunicare o va ajuta să evolueze mult mai rapid decât estimează mulţi dintre noi. Sper că procesul de învăţare va dura cât mai puţin, că ChatGPT va ajunge să gândească singură, fără să îi oferim variabile, şi ne va spune propria părere sau opinie în legătură cu ceea ce o întrebăm prin accesarea informaţiilor din mai multe baze de date şi corelarea lor în timp real. Cu toate acestea, există o temere cu privire la gândirea independentă de intervenţia umană a Chat GPT şi asta trebuie să avem în vedere, pentru că este necesară limitarea acesteia prin prisma unor principii etice. Din punct de vedere al legii şi al protecţiei societăţii, trebuie luate unele măsuri, sunt necesare reglementări", a precizat Andrew Hamel-Law.

• Respectare redusă a principiilor etice în dezvoltarea noilor tehnologii

Specialiştii din cadrul companiei Thoughtworks consideră că este nevoie de mai multe dezbateri, bazate pe argumente, prin care să li se explice oamenilor ce se întâmplă cu adevărat în spatele noilor tehnologii.

"Oamenii doresc să automatizeze sistemele, mai ales cele care funcţionează greoi, cum ar fi de exemplu sistemul de justiţie din Anglia. Funcţionarea aceasta greoaie este costisitoare şi este în beneficiul oamenilor bogaţi. Dacă un cetăţean simplu doreşte să se judece cu un om de business a cărui afacere este destul de mare, cheltuielile din sistemul englez de justiţie ar fi covârşitoare pentru cel care intentează procesul sau pentru simplul angajat. De aceea, este nevoie de optimizarea sistemului, iar acest lucru se poate realiza doar prin IT, prin digitalizarea mai multor procese din cadrul sistemului de justiţie, aşa cum am făcut cu sistemul de justiţie din Scoţia. Dar pentru a face acest lucru este nevoie ca oamenii să înţeleagă despre ce este vorba", a spus Andrew Hamel-Law.

Amintim că în luna martie 2023 companiaThoughtworks împreună cu Mozilla au publicat rezultatele studiului cu privire la perspectivele constructorilor de tehnologie referitoare la transparenţa Inteligenţei Artificiale. Potrivit studiului la care au răspuns zeci de dezvoltatori, ingineri software, designeri de produse şi ingineri de software din şapte state - India, Anglia, Scoţia, Germania, Ţările de Jos, SUA şi Cipru -, conformitatea etică şi legală sunt rareori agenţi motivatori atunci când proiectează şi implementează sisteme de Inteligenţă Artificială. Peste 90% dintre respondenţii chestionaţi au clasat ghidurile etice pe locul 11 pe o scară de 12 puncte. Respondenţii au spus că, deşi pot apărea preocupări etice în timpul dezvoltării Inteligenţei Artificiale, există puţine stimulente pentru a comunica utilizatorilor consecinţe neintenţionate sau limitări ale produselor, cum ar fi modul în care aceste instrumente ar putea recrea rezultate părtinitoare şi discriminatorii. În consecinţă, le revine în mare măsură utilizatorilor să înţeleagă modul în care deciziile bazate pe algoritmi le influenţează viaţa - cum ar fi motivul pentru care un anumit conţinut este amplificat sau interzis sau modul în care o aplicaţie medicală ce foloseşte Inteligenţa Artificială pune un diagnostic.

Înfiinţată în 1993, Thoughtworks este o companie de consultanţă tehnologică de top cu peste 11.500 de angajaţi, în cele 51 de birouri din 18 ţări. Compania oferă, prin intermediul inginerilor de date şi designerilor, strategii de dezvoltare open-sources pentru clienţii săi menite să ducă la rezilienţa organizaţională şi digitală a firmelor respective şi la agilitatea lor în zona online. Din toamna anului 2021, Thoughtworks este listată la bursă în indicele Nasdaq având simbolul TWKS.