CONFERINŢA INTERNAŢIONALĂ DE DIALOG PUBLIC-PRIVAT Securitatea cibernetică: prima linie de apărare în faţa impactului inteligenţei artificiale (II)

• Evoluţia naturii conflictelor şi a forţelor armate

Modificarea naturii conflictelor duce la apariţia a numeroase întrebări. Întrebarea fundamentală este dacă războiul cibernetic va deveni războiul viitorului, şi nu confruntarea dintre sistemele de arme robotice. În acest caz apar consecinţe importante la nivel de doctrină. Adversarul poate fi învins de acţiuni din spaţiul virtual care l-ar împiedica să reacţioneze şi să îşi utilizeze toată infras-tructura critică. De asemenea, nu mai este evident dacă vor mai fi de folos armele nucleare sau sistemele de arme cu efecte devastatoare. Va exista posibilitatea să se blocheze comanda acestor arme prin intermediul spaţiului cibernetic sau chiar dezactivarea lor. În mod similar, armele cibernetice ar putea, dacă este nevoie, să producă daune la fel de mari ca şi armele nucleare. În acest caz, cheia succesului va fi capacitatea de a dezvolta acţiuni în spaţiul cibernetic. Astfel intimidarea unui adversar şi demonstraţia de forţă se vor muta în spaţiul cibernetic, şi nu vor fi resimţite, într-o primă fază, deloc sau aproape deloc de către populaţia civilă. Însă pot apărea evenimente precum paralizarea unor sectoare întregi ale economiei unei ţări, izbucnirea voluntară a unor dezastre tehnologice sau ecologice, cu multe victime sau manipularea procesului democratic. Acestea se vor numi acte de război.

Adversarul poate fi învins de acţiuni din spaţiul virtual care l-ar împiedica să reacţioneze şi să îşi utilizeze toată infras-tructura critică. De asemenea, nu mai este evident dacă vor mai fi de folos armele nucleare sau sistemele de arme cu efecte devastatoare. Va exista posibilitatea să se blocheze comanda acestor arme prin intermediul spaţiului cibernetic sau chiar dezactivarea lor. În mod similar, armele cibernetice ar putea, dacă este nevoie, să producă daune la fel de mari ca şi armele nucleare. În acest caz, cheia succesului va fi capacitatea de a dezvolta acţiuni în spaţiul cibernetic. Astfel intimidarea unui adversar şi demonstraţia de forţă se vor muta în spaţiul cibernetic, şi nu vor fi resimţite, într-o primă fază, deloc sau aproape deloc de către populaţia civilă. Însă pot apărea evenimente precum paralizarea unor sectoare întregi ale economiei unei ţări, izbucnirea voluntară a unor dezas-tre tehnologice sau ecologice, cu multe victime sau manipularea procesului democratic. Acestea se vor numi acte de război.

Importanţa spaţiului cibernetic în planificarea şi desfăşurarea operaţiunilor este de multe ori subestimată, în ciuda faptul că acolo se pot atinge multe obiective militare. În primul rând, este posibilă distrugerea şi întreruperea schimburilor de date (comunicaţii de orice fel), dar şi împiedicarea accesului la informaţii, coruperea sau distrugerea acestora prin infectarea lor. Dar obiectivul simplificat ar putea să fie distrugerea anumitor informaţii din calculatoare sau a unor baze de date întregi sau blocarea reţelelor. Se poate avea în vedere infectarea cu un malware a calculatorului duşmanului, ca asigurare în caz de atac sau pentru soluţionarea unor viitoare conflicte. În acest caz, este nevoie ca atacul să nu fie detectat. Pe de altă parte dacă un stat foloseşte arme de largă scală în spaţiul cibernetic, pentru a cauza daune semnificative duşmanului, atunci intenţia este clară, şi nu este neapărat necesar să rămână ascuns. Dimpotrivă, se va dezvălui pentru a obţine ceea ce doreşte¹³.

• Inteligenţa artificială ca provocare pentru forţele armate

Deoarece importanţa timpului, dis-tanţei, vitezei şi temporizării scade, acestea nemaifiind nişte constrângeri, utilizarea atacurilor în spaţiul cibernetic, care pot fi şi automatizate, va creşte. Este posibil ca acţiunile în spaţiul virtual împotriva unor duşmani neconvenţionali să fie mai greu de implementat, sau să fie mai limitate dacă aceştia nu se bazează pe reţele informatice în des-făşurarea operaţiunilor şi pentru sistemele de arme. În cazul Ucrainei, în 2014, existenţa controlului manual parţial a uşurat modalitatea de reacţie în cazul atacului cibernetic asupra infras-tructurii de energie electrică. Atacurile cibernetice asupra Estoniei, Georgiei şi Iranului nu au fost percepute de aceste ţări ca atacuri militare şi prin urmare nu au avut niciun impact asupra forţelor armate. Dar este interpretabil, totuşi dis-trugerea unor capabilităţi cheie poate fi văzută ca un atac asupra întregii ţări. De asemenea este necesar să fie luată în considerare situaţia în care importanţa spaţiului virtual este diferită pe parcursul fazelor unui conflict sau dacă, dimpotrivă, această importanţă se menţine şi după încheierea ostilităţilor. Ar fi eronat să se considere utilizarea spaţiului virtual ca un spaţiu operaţional doar sau în principal în fazele iniţiale ale conflictului şi să se creadă că oportunităţile, şi deci importanţa spaţiului virtual, scad în timpul conflictului.

În ciuda celor menţionate mai sus, încă sunt câţiva autori care continuă să creadă că ameninţarea războiului cibernetic nu prezintă un pericol serios pentru forţele armate. Ei percep activitatea din spaţiul cibernetic ca pe nişte măsuri luate în paralel pentru rezolvarea conflictului tradiţional sau hibrid iar schimburile din domeniul cibernetic sunt doar mici încăierări. Acesta este motivul pentru care este nevoie să fie analizat în detaliu impactul AI asupra forţelor armate. Consecinţele revoluţionare la nivel de securitate ale AI vor determina forţele armate să se adapteze. AI şi învăţarea online vor avea implicaţii decisive pentru securitatea cibernetică şi pentru războiul cibernetic. În ceea ce priveşte desfăşurarea unui conflict, trebuie realizat un salt calitativ de nivelul apariţiei aviaţiei. Pe lângă aplicarea la nivelul luptelor dinamice a inteligenţei artificiale, forţele armate cu ajutorul AI vor putea să îşi îndeplinească misiunea de asigurare a securităţii societăţii. AI va putea să analizeze şi să combine un volum imens de informaţii. În special în domeniul informaţiilor secrete, activităţi care acum presupun implicarea mai multor persoane pot fi automatizate. Forţele armate vor avea o capacitate crescută de colectare a informaţiilor, de analizare şi utilizare rapidă a acestora. Lupta pentru superioritate în spaţiul informaţional va fi feroce, deoarece va fi decisivă.

AI va determina apariţia unor oportunităţi de formare în lumi care combină informaţii reale cu elemente virtuale şi va permite o pregătire incomparabilă a operaţionalizării, care poate de asemenea fi realizată la distanţă. AI se va dovedi un instrument valoros în faza iniţială a conflictelor sau în momentul în care un actor nu vrea sau nu poate utiliza trupe în vederea atingerii obiectivului. Spionarea sistemelor adversare ca măsură pregătitoare de luptă va deveni din ce în ce mai importantă şi va deveni primul pas în declanşarea unui război. Această colectare de informaţii va reprezenta baza activităţilor subversive de genul mobilizarea şi influenţarea opiniei publice în scopuri politice, respectiv manipularea informaţiilor. Va fi de asemenea folosită pentru sabotarea sis-temelor de arme, infrastructurii critice şi distrugerea sau modificarea naturii comunicaţiilor¹⁴, toate acţiuni care slăbesc adversarul şi astfel se pregăteşte câmpul de luptă. Pe de altă parte, oricând actori izolaţi vor putea acţiona direct şi în mod violent.

AI va avea un impact şi în domeniul materialelor şi al echipamentelor. Controlul noilor tehnologii se va realiza mult mai bine de către AI decât de către oameni. Noi capabilităţi robotice combinate cu inteligenţa artificială vor permite atingerea unei ţinte la nivel de centimetru¹⁵. Se va îmbunătăţi şi va deveni un aspect esenţial programarea senzorilor, în special a celor care pot declanşa un răspuns automat. Automatizarea combinată cu AI va permite dezvoltarea unor răspunsuri de tipul "trage şi uită" cu aplicaţii pentru multe sisteme, de aici nevoia de a dezvolta în paralel posibilităţi de control uman asupra utilizării acestor arme. Forţele armate vor dori să utilizeze la maximum avantajele maşinilor în desfăşurarea unei lupte. În acelaşi timp vorbim despre materiale care nu sunt doar mult mai uşoare şi izolatoare, dar care pot să îşi schimbe forma şi culoarea. Dacă aceste materiale sunt combinate cu inteligenţa artificială vor creşte posibilităţile de utilizare, în special la camuflaj sau pentru îmbunătăţirea performanţei soldaţilor.

• Utilizările inteligenţei artificiale în desfăşurarea operaţiunilor militare

Combinarea informaţiilor disponibile şi AI în spaţiul cibernetic va diminua nevoia de rezistenţă din punct de vedere psihologic. Această capabilitate va fi folositoare atât pentru apărare cât şi pentru atac. Un atac va fi construit cu precizie şi personalizat conform obiectivului său pentru a-i asigura eficacitatea. Astfel, în domeniul dezinformării, posibilităţile se vor multiplica iar diseminarea se va face rapid. AI va deveni un sprijin esenţial în desfăşurarea operaţiunilor, în principal datorită potenţialului său ridicat de analiză. AI deschide noi dimensiuni pentru aceste posibile îmbunătăţiri, în special pentru căutarea vulnerabilităţilor sistemului duşman.

Va deveni posibilă sprijinirea combatanţilor prin intermediul unor sisteme autonome. Modalitatea de luptă se va caracteriza în viitor şi prin extinderea abilităţii de a îndeplini misiuni în mod autonom. Omul, prin intermediul AI, va încerca să reacţioneze la modificări mai repede şi mai bine decât adversarul său, ceea ce conduce la avantaje pe câmpul de luptă.

AI va permite lupta simultană contra unei multitudini de sisteme, atât în lumea reală cât şi în cea virtuală şi contracarea unor atacuri diferite şi aflate la dis-tanţe mici. Va permite sincronizarea modalităţilor de apărare, prioritizarea şi acţiunea rapidă. În funcţie de obiective, AI va putea face o analiză mai bună a ţintelor potenţiale, în special prin verificarea încrucişată a informaţiilor. Acest lucru se va aplica şi analizei imaginilor, aceasta completându-se cu alte informaţii pentru, spre exemplu, identificarea infrastructurilor critice şi a celui mai potrivit timp în care acestea pot fi atacate, fie prin atacuri cibernetice, fie prin atacuri convenţionale. Dar AI poate asigura sprijinul trupelor şi la nivelul unor aspecte mai puţin tehnice, cum ar fi în domeniul psihologiei, prin analiza conţinutului violent, care poate afecta moralul trupelor. În domeniul protecţiei fizice sunt reduse riscurile, în special când este vorba de misiunile de recunoaştere în zone inamice sau de eliminare a minelor, care pot fi îndeplinire de roboţi. Va fi posibilă conservarea capitalului uman prin repartizarea sarcinilor plictisitoare sau periculoase unor maşini echipate cu AI. Prin AI se poate îmbunătăţi şi luarea deciziilor, prin conexiunile de la nivelul diferitelor unităţi, prin simulările operaţionale pentru pregătirea operaţiunilor. Astfel cresc eficienţa şi performanţa sistemelor de luptă iar funcţiile logistice şi de sprijin sunt simplificate, în special în zona de întreţinere. În concluzie, calculatoarele cu AI vor deveni ele însele nişte sisteme armate. Armele cibernetice se transformă în superarme de distrugere¹⁶ şi slăbire a adversarului.

Totuşi, întotdeauna va exista o diferenţă mare între securitate, care poate fi îmbunătăţită în zonele urbane sau la nivelul unor infrastructuri de genul gări sau aeroporturi, unde sunt instalaţi mulţi senzori precum camerele de supraveghere, ale căror imagini sunt disponibile şi pot fi analizate, şi lupta dinamică într-un mediu în care nu sunt disponibili senzori statici. În timpul unei operaţiuni, instalarea la scală largă a unor senzori va continua să fie un obstacol deoarece pot apărea surprize la nivelul scalei de acţiune.

Datorită integrării din ce în ce mai avansată a AI la nivelul sistemelor forţelor armate şi câmpul de bătaie se va modifica. În primul rând, va avea loc înlocuirea extensivă a oamenilor cu roboţi autonomi, în toate domeniile, de la logistică la roboţi de luptă. Bineînţeles că aceşti roboţi vor avea niveluri diferite de autonomie, în funcţie de atribuţiile fiecăruia. Va trebui stabilit controlul uman minim necesar pentru fiecare atribuţie. Pe termen lung, lupta la nivel aerian va deveni parţial inutilă şi, pentru anumite misiuni, poate fi înlocuită cu drone. Această tendinţă va fi sprijinită şi de scăderea costurilor dronelor. În ceea ce priveşte forţele terestre, doar o paradă militară va putea să fie identificată pentru ca ele să poată să răspundă atacului a sute sau mii de drone. În mod similar, încărcăturile improvizate de explozibil vor deveni arme de precizie, crescând eficienţa oricărui grup terorist, spre exemplu prin utilizarea unei maşini autonome pentru atacurile sinucigaşe cu bombe. Se va mări capacitatea unor grupări armate de a destabiliza o societate, ca parte a unei strategii hibride. Aceste grupări ar putea utiliza roboţi pentru asasinări automatizate la nivel înalt a unor militari sau oficiali politici şi economici.

Totuşi, AI va putea fi folosită şi pentru dezarmarea acestor grupări prin identificarea tranzacţiilor suspecte şi, la nivel general, prin identificarea posibililor terorişti prin analiza unor pachete de indicii. Apărarea pasivă sau activă a unor ţinte cu valoare ridicată precum infrastructura critică (blindajul, apărările active, radarul UAV) poate fi de asemenea îmbunătăţită.

Învăţarea mai mult sau mai puţin automatizată a AI este un subiect important, ceea ce poate fi o vulnerabilitate deosebită dacă un inamic reuşeşte să infiltreze elemente eronate în procesul de învăţare. Aceste elemente distrugătoare pot fi informaţii false pe care întreg sistemul de învăţare se bazează sau pot avea în vedere modificarea percepţiei maşinilor cu privire la un anumit mediu ceea ce poate determina diferite comportamente, unele periculoase. Spre exemplu se poate inversa metoda de recunoaştere pentru prieten sau duşman în cadrul fazei de învăţare sau sistemele autonome de arme pot fi învăţate să vizeze în mod special ţinte civile. Însăşi educaţia autonomă va deveni o ţintă, deoarece va deveni interesant sabotajul duşmanului în această etapă, pentru a încetini îmbunătăţirea capabilităţilor sis-temelor autonome de arme şi pentru a spiona sau a preveni înmulţirea funcţiilor roboţilor cu AI¹⁷. În ciuda acestor lucruri, AI ne va forţa să acordăm mai multă autonomie maşinilor, pentru ca acestea să fie utilizate la nivelul potenţialului lor, în special pentru viteza lor de reacţie. Omul este cel care, în acest punct, va deveni un factor de încetinire. Dacă limităm autonomia şi viteza maşinilor pentru a le controla mai eficient, atunci ne asumăm riscul ca duşmanul să devină mai rapid. Astfel nu vom avea de ales, şi va exista riscul ca oamenii să devină simpli spectatori ai interacţiunilor dintre maşini, sau chiar ai unor bătălii între maşini. Exemplu dronelor este edificator. Creşte exponenţial numărul dronelor utilizate pentru diverse atribuţii iar aceasta poate deveni o problemă deoarece va creşte riscul apariţiilor unor acţiuni necontrolate. În ultimă instanţă, pentru a putea lua măsuri de protecţie şi a asigura redundanţa sistemelor, vor trebui identificate sistemele de arme care pot opera fără suportul AI.

• Vulnerabilităţile asociate cu inteligenţa artificială

Integrarea accelerată a AI în sistemele şi procesele forţelor armate ridică numeroase întrebări cu privire la efectele negative posibile şi măsurile necesare pentru ţinerea sub control a riscurilor. Ţinta finală este prevenirea deturnării utilizării sistemelor şi proceselor militare de la scopul pentru care au fost concepute. La un nivel foarte general, întrebarea este cum va putea un mediu cibernetic degradat să interfereze cu abilitatea forţelor armate de a-şi îndeplini misiunea, de la mobilizare la luptă. Este posibil ca aceste evoluţii tehnologice, sau aplicarea lor la nivelul forţelor armate, să fie împiedicate din cauza riscurilor implicate. Când vorbim despre armament şi control mai mult sau mai puţin automatizat, trebuie să şi garantăm că se va păstra controlul, sau că este exclusă preluarea sau reprogramarea de către un adversar. Va deveni deosebit de importantă întărirea securităţii şi a protecţiei sistemelor¹⁸.

Vulnerabilităţile vor fi căutate activ şi inevitabil atacate. Vor exista constrângeri semnificative pentru integrarea AI la nivelul forţelor armate. O provocare importantă o reprezintă identificarea celei mai bune combinaţii dintre om şi maşină, cu scopul de a utiliza la maxim potenţialul şi sinergiile AI. Este vorba despre modalitatea cea mai bună de combinare a activităţii de identificare a oportunităţilor cu luarea celei mai bune decizii, mai rapid decât adversarul şi în mod repetat¹⁹. Mai presus de toate, este important să se evite ca maşina să neutralizeze omul sau funcţiile sale de control în cazul în care aceasta nu este de acord, din orice motiv, cu decizia omului. Acest lucru nu va fi întotdeauna uşor, în special în domeniile în care AI depăşeşte inteligenţa umană. Oamenii ar trebui să se străduiască să păstreze siguranţa populaţiilor ca prioritate esenţială a AI, în orice fel de circumstanţe. Pentru moment AI încă depinde de factori de învăţare care sunt cel puţin iniţiaţi de către oameni. Abilitatea AI de a reacţiona şi de a rezolva situaţii noi şi neaşteptate, ceea ce este esenţial pentru forţele armate, va deveni o prioritate pentru dezvoltare. Totuşi, acest lucru demonstrează că va fi nevoie să se dezvolte un nou sistem specific de control pentru armele autonome, în special pentru cele cu efect letal. Trebuie să ne asigurăm că oamenii pot dezactiva imediat un sistem autonom care deviază de la misiunea sa. AI poate cauza probleme neaşteptate deoarece viteza şi acumularea mare de interacţiuni au efecte imprevizibile. În contextul acestei evoluţii inevitabile, responsabilitatea finală pentru utilizarea armelor autonome trebuie să rămână a oamenilor, şi trebuie exclusă eliminarea controlului²⁰.

Unul dintre pericolele inerente ale acestei evoluţii o reprezintă faptul că unele decizii care au nevoie de reacţii rapide şi neechivoce pot fi delegate către AI, cum ar fi utilizarea rachetelor sau armelor nucleare²¹. AI poate conduce la o nouă cursă a înarmării, toţi actorii vor dori să îşi îmbunătăţească sistemele de arme cu AI. Utilizarea răspândită a AI poate fi o evoluţie inevitabilă datorita beneficiilor sale dar şi datorită consecinţelor din domeniul protecţiei. Oamenii vor lua din ce în ce mai puţine decizii, şi, în acelaşi timp, maşinile vor dicta ritmul luptei în toate zonele de operaţiuni, şi vor influenţa direct rezultatul. Oamenii vor trebui să identifice o metodă de a păstra controlul asupra proceselor şi de a stabili limitele maşinilor şi a implicării acestora. Trebuie luată în considerare apariţia unui război în care sunt utilizate rachete auto-ghidate, tancuri autonome şi drone înarmate. Am putea observa un fel de "dezumanizare" a războaielor viitorului.

În desfăşurarea oricărei operaţiuni, împiedicarea comunicaţiilor a avut întotdeauna un rol esenţial. Dar acest lucru are un impact pozitiv doar în condiţiile în care îţi poţi asigura funcţionarea propriilor comunicaţii. Se presupune aşadar că eliminarea forţelor duşmanului pentru a câştiga nu va mai fi la fel de importantă precum ar fi capacitatea de infiltrare în centrul sistemului inamic, în centrele sale de gravitaţie, pentru a-l dis-truge sau paraliza. Capacitatea de a identifica ferestre de oportunitate devine din ce mai importantă şi mai decisivă.

Oportunităţile apar atunci când inamicul este "orbit" sau indus în eroare. Sistemele de comunicaţii ale forţelor armate inamice vor deveni aşadar infras-tructuri critice esenţiale. Atacarea şi dis-trugerea lor vor paraliza şi vor învinge adversarul într-o lume în care alfabetizarea informaţională şi capacitatea de manipulare a ei înseamnă putere. Superioritatea spaţiului informaţional se obţine prin capacitatea crescută de a colecta date, de a le analiza şi utiliza rapid pe câmpul de luptă. Vor exista mai multe surse şi va fi mai simplă răspândirea de informaţii false precum şi influenţarea deciziilor inamicului. Propaganda, înşelăciunea şi ingineria socială (precum este manipularea psihologică de largă scală) vor fi îmbunătăţite. Acestea vor crea confuzie în rândul adversarilor prin dis-torsionarea situaţiei, fiind mult mai eficiente decât distrugerea echipamentelor sau a sistemelor de arme. Structurile verticale de comandă vor fi înlocuite treptat de structuri flexibile de reţele care vor include cooperarea permanentă sau temporară cu noi componente. Schimbări majore vor avea loc şi la nivelul centrelor de gravitaţie şi al planificării ţintelor.

Un alt pericol major îl reprezintă, fără îndoială, dezechilibrul resurselor cibernetice, care vor împinge unul dintre actori spre o atitudine agresivă, fiind sigur de victorie. Este nevoie de echilibru şi la nivelul armelor cibernetice şi al suportului AI, care va permite descurajarea utilizării acestora la nivel cibernetic, aşa cum spre exemplu este descurajată utilizarea armelor nucleare. Perioada de tranziţie dintre dezvoltarea noilor capabilităţi şi echilibrul resurselor va fi plină de riscuri. Trebuie avut în considerare faptul ca nu este uşor să aplici sistemele AI civile la nivelul armatei. Măsura în care aceste tehnologii vor putea fi duplicate este un factor important dar posibil să creeze şi limite. Una dintre cele mai importante dimensiuni ale utilizării sistemelor autonome de arme o reprezintă daunele colaterale care pot interveni. De cele mai multe ori vorbim despre echilibrul intereselor în acest domeniu, iar contextul evoluează cu fiecare secundă în parte. Nu este vorba doar despre acurateţea informaţiei disponibile, ci şi despre evaluarea sistemului global în care o singură acţiune poate avea un impact strategic. Problema autonomiei include de asemenea şi dimensiunea responsabilităţii, în legătură cu modul de acţiune şi consecinţele utilizării sistemelor autonome de arme. În final, ne putem imagina că, în contextul unei apărări active, un Stat poate avea un răs-puns parţial miliar la acţiuni cibernetice agresive contra intereselor sale, atât la nivel cibernetic cât şi non-cibernetic. De facto, protecţia cibernetică şi capabilităţile cibernetice le permit forţelor militare să îşi îndeplinească misiunile, şi astfel să îşi desfăşoare operaţiunile într-un mod mai eficient şi chiar cu cos-turi mai mici²².

(va urma)