Acordul Casei Albe privind Superinteligenţa: Patru niveluri de control şi audit pentru modelele de frontieră

Companiile de inteligenţă artificială implicate în dezvoltarea modelelor de frontieră s-au angajat, prin Acordul Casei Albe privind Superinteligenţa, să implementeze patru niveluri de control şi audit, potrivit documentului citat.

Documentul precizează că, pentru a construi un viitor pozitiv pentru poporul american şi pentru lume, fiecare companie este responsabilă pentru dezvoltarea propriei tehnologii într-un mod sigur şi care construieşte încredere cu clienţii şi publicul.

Acest lucru începe cu fiecare companie care instruieşte şi implementează modele de frontieră cu procese şi controale interne robuste, pentru a se asigura că tehnologia lor se comportă conform intenţiilor şi că orice probleme sunt identificate şi rezolvate prompt.

Prin urmare, pe lângă orice alte precauţii, companiile consideră că fiecare ar trebui să implementeze următoarele patru niveluri de control şi audit, respectiv implementarea unor controale interne robuste pentru a monitoriza capacităţile şi alinierea modelelor sale în timpul instruirii şi implementării în domenii precum securitatea cibernetică, biosecuritatea şi ameninţările chimice, şi pentru a se asigura că modelele sale nu hacking şi nu accesează sistemele tehnice în moduri neintenţionate.

Al doilea nivel presupune împuternicirea unei echipe interne pentru a se asigura că toate controalele, monitorizarea şi detectarea funcţionează conform intenţiilor şi că orice probleme sunt remediate.

Al treilea nivel presupune parteneriatul cu un auditor sau evaluator extern independent pentru a efectua evaluări independente privind funcţionarea controalelor, monitorizării şi detectării conform intenţiilor.

Al patrulea nivel presupune desemnarea unui comitet independent al consiliului de administraţie pentru a supraveghea şi primi rapoarte de la echipele care operează controalele şi de la auditorii şi evaluatorii interni şi externi, precum şi pentru a se asigura că orice probleme identificate sunt remediate.

Documentul precizează că, împreună, aceşti paşi vor oferi fiecărei companii, clienţilor săi şi publicului încredere că tehnologia funcţionează conform intenţiilor, iar companiile participante se vor întâlni periodic pentru a stabili standarde şi bune practici pentru îmbunătăţirea siguranţei sistemelor lor.

Documentul mai arată că, în timp, ar putea avea sens să se codifice aceşti paşi în legi sau reglementări, iar indiferent dacă acest lucru este necesar pentru companii, ele consideră că implementarea acestor controale şi audituri este critică pentru a asigura un viitor sigur pentru toată lumea şi fiecare dintre companiile lor se angajează să facă acest lucru