CONFERINŢA "DIGITALIZARE ŞI SIGURANŢĂ CIBERNETICĂ" Francesco Giovane, Endava: "Securitatea ar trebui să facă parte din zona de etică a AI"

Utilizarea AI aduce o mulţime de oportunităţi şi provocări, dar trebuie reglementată corespunzător, iar reglementarea ar trebui să prevadă că zona de securitate face parte din zona de etică a inteligenţei artificiale, susţine Francesco Giovane, Country Manager Endava.

Domnia sa a arătat: "Endava este un player global, avem reprezentare pe toate continentele - Europa, America de Nord, America de Sud, Australia şi Asia - şi colaborăm cu clienţi importanţi din mai multe domenii: de finance, de healthcare, de tradewell, de logistică şi de retail. Avem un view foarte larg asupra impactului tehnologiei în zona de business în diverse industrii. De la înfiinţare am fost implicaţi în digitalizarea tehnologică. Am ajutat, am colaborat cu clienţii noştri pentru a se dezvolta, pentru a-şi îmbunătăţi businessul din acest punct de vedere. Bineînţeles, pentru a realiza aceasta am folosit cele mai noi tehnologii şi avem oameni pregătiţi. Acum a venit momentul inteligenţei artificiale (AI). Oportunităţile oferite de AI sunt imense, dar această tehnologie vine şi cu anumite provocări. Ca oportunităţi, am fost implicaţi în anumite zone şi aici aş menţiona unul dintre cele mai de prim-plan domenii - healthcare (sănătate), unde AI ajută să avem tratamente personalizate pentru diferiţi pacienţi, să se descopere medicamente în mod mai rapid. Mai menţionez zona de finance, unde e critic să avem securitate cibernetică şi să depistăm fraudele cât mai inteligent şi cât mai rapid. Pentru că nu doar noi, cei care ne situăm de partea pozitivă a baricadei, evoluăm rapid şi ştim să facem lucrurile, dar şi ceilalţi, din darkweb, sunt foarte bine pregătiţi şi la curent cu absolut orice. Deci e o competiţie cu două părţi - pozitivă şi negativă -, dar noi creştem prin această competiţie. (...) Nu putem să spunem că în urma utilizării AI nu se vor pierde posturi; se va întâmpla, dar AI în zona de augmentation va putea fi folosită atât de doctori pentru diferite operaţii şi tratamente, cât şi de muncitori pentru a repara o maşină remote sau o dronă care poate fi folosită de un pompier pentru a stinge un foc fără a fi el pus în pericol sau de un salvamont pentru a găsi, depista un om rătăcit în munţi. Aceasta înseamnă AI şi o parte din oportunităţile pe care le vedem, pe care le întâlnim şi pe care începem să colaborăm cu clienţii noştri. Dar ce descoperim odată cu utilizarea AI? Zona de responsabilitate. Care este scopul final al AI? Să aducă responsabilitate socială, să ne facă viaţa mai bună, să aducă bunăstare în societate, dar pentru asta trebuie să contribuim toţi cu reţele antivirus foarte performante, astfel încât să ne protejăm, dar aici intervine şi zona de educaţie. Nu e nevoie să educăm doar adulţii şi generaţiile viitoare; e nevoie şi de educarea părinţilor noştri. Noi ca business, ca oameni care crează anumite aplicaţii, suntem obligaţi să ne gândim la mai multe lucruri şi să le prevenim, iar din această responsabilitate socială trebuie să ne uităm din punct de vedere etic în zona AI, să vedem cum o reglementăm, cu sprijinul autorităţilor. Asta înseamnă o mai mare transparenţă: toate aceste LLM-uri, toate aceste ChatGPT-uri trebuie să aibă vizibili, clari, algoritmii din spatele lor, să înţelegem ce fac. Aceasta va veni cu o zonă de responsabilitate şi cine va greşi, va plăti într-un fel sau altul pentru că şi-a asumat un rol. Apoi vorbim şi despre confidenţialitatea datelor şi trebuie să ne asigurăm că AI are grijă de datele noastre, că sunt folosite într-un mod corect, cinstit pentru toată lumea. Drepturile de autor trebuie şi ele respectate, iar zona de securitate ar trebui să facă parte din zona de etică a AI".

Francesco Giovane a concluzionat arătând că în viitorul apropiat lucrurile vor evolua clar în zona tehnologică, atât din punct de vedere hardware, cât şi din punct de vedere software, iar asta înseamnă tehnologii mai eficiente, mai rapide, care vor necesita limbaje de programare mult mai dezvoltate, iar singurul diferenţiator în utilizarea noilor tehnologii va fi alcătuit din cunoştinţele de business.