Kaspersky: "4 riscuri de confidentialitate in utilizarea ChatGPT pentru companii"

Astăzi multă lume foloseşte modele de limbaj bazate pe reţele neuronale, cum ar fi ChatGPT, pentru activităţile profesionale, se arată într-un comunicat al Kaspersky, remis redacţiei. Un sondaj Kaspersky a arătat că 11% dintre respondenţi au folosit chatbots, iar aproape 30% cred în potenţialul lor de a înlocui unele locuri de muncă în viitor, transmite sursa menţionată. Alte sondaje indică faptul că 50% dintre angajaţii de birou belgieni şi 65% din Marea Britanie se bazează pe ChatGPT, potrivit sursei citate. Mai mult, frecvenţa termenului de căutare "ChatGPT" în Google Trends sugerează o utilizare pronunţată în timpul săptămânii, probabil legată de sarcinile legate de serviciu, relatează compania.

Cercetătorii Kaspersky au identificat patru riscuri cheie asociate cu utilizarea ChatGPT în scopuri comerciale, arată datele comunicatului:

"1.Deşi chatbot-urile bazate pe LLM sunt operate de specialişti în tehnologie, nici ei nu sunt imuni la hacking sau scurgeri accidentale. De exemplu, a avut loc un incident în care utilizatorii ChatGPT au putut să vadă mesaje din istoricul de chat al altor utilizatori.

2.Teoretic, chat-urile cu chatbot-uri ar putea fi folosite pentru a antrena viitoare modele. Având în vedere că LLM-urile sunt susceptibile la "memorare neintenţionată", în care îşi amintesc secvenţe unice, cum ar fi numerele de telefon, care nu îmbunătăţesc calitatea modelului, dar prezintă riscuri pentru confidenţialitate, orice date din materialul de instruire pot fi accesate involuntar sau intenţionat de alţi utilizatori din model.

3."Malicious client" - Aceasta este o mare îngrijorare în cazul locurilor de muncă în care serviciile oficiale precum ChatGPT sunt blocate. Utilizatorii pot recurge la alternative neoficiale, cum ar fi programe, site-uri web sau roboti de mesagerie şi pot descărca programe malware deghizate în client sau aplicaţie inexistentă.

4.Atacatorii pot intra în conturile angajaţilor, accesând datele lor, prin atacuri de tip phishing sau prin completarea acreditărilor. În plus, Kaspersky Digital Footprint Intelligence găseşte în mod regulat postări pe forumuri dark web care vând acces la conturile chatbot."

Scurgerile de date rămân, prin urmare, o problemă majoră de confidenţialitate atât pentru utilizatori, cât şi pentru companii atunci când folosesc chatbots, relatează Kapersky. Dezvoltatorii responsabili descriu modul în care datele sunt utilizate pentru antrenarea modelelor în politicile lor de confidenţialitate, conform sursei menţionate. Analiza Kaspersky a chatbot-urilor populare, inclusiv ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard şi Genius App de Alloy Studios, arată că în sectorul B2B există standarde de securitate şi confidenţialitate mai ridicate, având în vedere riscurile mai mari generate de scurgerile de informaţii corporative, menţionează compania. În consecinţă, termenii şi condiţiile de utilizare, colectare, stocare şi procesare a datelor sunt mai concentrate pe protejarea datelor, în comparaţie cu sectorul B2C, transmite sursa precizată. Soluţiile B2B din acest studiu, de obicei, nu salvează automat istoricul de chat şi, în unele cazuri, nu sunt trimise date către serverele companiei, deoarece chatbot-ul operează local în reţeaua clientului, se mai arată în comunicat.

Pentru a beneficia în continuare de utilizarea chatbot-urilor şi pentru a rămâne în siguranţă, experţii Kaspersky recomandă, potrivit comunicatului:

"• Utilizaţi parole puternice şi unice: creaţi parole complexe pentru fiecare dintre conturile dumneavoastră şi evitaţi să utilizaţi informaţii uşor de ghicit, cum ar fi zilele de naştere sau numele.

• Atenţie la phishing: fiţi atenţi la e-mailurile, mesajele sau apelurile nesolicitate care vă solicită informaţii personale. Verificaţi identitatea expeditorului înainte de a partaja orice date sensibile.

• Educaţi-vă angajaţii: angajaţii trebuie să fie informaţi cu privire la cele mai recente ameninţări online şi cele mai bune practici pentru a rămâne în siguranţă în mediul online.

• Păstraţi software-ul actualizat: actualizaţi regulat sistemul de operare, aplicaţiile şi programele antivirus. Aceste actualizări conţin adesea patch-uri de securitate.

• Limitaţi partajarea informaţiilor corporative: Fiţi atenţi la partajarea informaţiilor personale pe reţelele sociale sau forumurile publice. Oferiţi-le doar atunci când este absolut necesar.

• Verificaţi adresele URL şi site-urile web: verificaţi de două ori adresa URL a site-urilor web pe care le vizitaţi, mai ales înainte de a introduce datele de conectare sau de a face achiziţii.

• Utilizaţi soluţia de securitate corporativă: pentru a preveni angajaţii în ceea ce priveşte utilizarea în mod independent a chatbot-urilor care nu sunt de încredere în scopuri profesionale, puteţi utiliza o soluţie de securitate cu analiză a serviciilor cloud. Printre caracteristicile sale, soluţia Kaspersky Endpoint Security Cloud include Cloud Discovery pentru gestionarea serviciilor cloud şi evaluarea riscurilor utilizării acestora."