Agentic AI promite să schimbe radical modul în care organizațiile iau decizii și execută procese. Pentru sectoarele cu cerințe ridicate de securitate – bănci, administrație publică, apărare și infrastructură critică – problema nu este însă cât de repede pot fi implementați agenții AI, ci cât de bine poate fi controlată autonomia lor.
Organizațiile din sectoare precum banking, administrație, apărare sau infrastructură critică adoptă agenți AI mai lent decât alte companii. La prima vedere, această prudență poate părea rezistență la schimbare. În realitate, este o evaluare realistă a riscurilor.
În aceste domenii, un eșec nu înseamnă doar o experiență neplăcută pentru utilizator. Poate însemna o plată blocată, un tratament întârziat sau o întrerupere a alimentării cu energie.
Pentru aproximativ 70% dintre sectoarele cu cerințe ridicate de securitate, securitatea și protecția datelor reprezintă principalele bariere în adoptarea agenților AI. Nu este vorba despre teama de nou, ci despre o evaluare corectă a consecințelor.
Agenții AI schimbă o presupunere fundamentală
În mod tradițional, software-ul utilizat de bănci, instituții publice și companii pornea de la o premisă relativ simplă: sistemul face ceea ce îi cerem și nu face mai mult decât atât.
Agenții AI schimbă această presupunere.
Un agent poate executa ceea ce i se cere, dar poate, în același timp, să interpreteze informații, să ia decizii intermediare, să apeleze alte sisteme și să inițieze acțiuni care nu au fost specificate explicit de un utilizator.
Tocmai această autonomie reprezintă valoarea tehnologiei. Dar aceeași autonomie introduce și o nouă categorie de riscuri, pentru care multe organizații nu sunt încă pregătite.
Rezidența datelor nu înseamnă suveranitate
Una dintre cele mai frecvente confuzii în proiectele de AI agentic este echivalarea rezidenței datelor cu suveranitatea.
Rezidența răspunde la o întrebare clară: unde sunt stocate datele?
Dacă datele sunt păstrate în regiunea potrivită, în cloud-ul potrivit și în baza unor condiții contractuale corespunzătoare, cerința de rezidență poate fi îndeplinită.
Agenții AI însă nu operează exclusiv cu date „în repaus”. Ei preiau datele, le procesează, formulează concluzii și acționează pe baza lor.
Un model găzduit într-o anumită jurisdicție poate procesa date despre clienți provenite dintr-o altă jurisdicție. Informații sensibile pot ajunge în prompturi, memorii, loguri sau embeddings, în afara sistemului inițial în care organizația deținea controlul asupra lor.
Cu alte cuvinte, datele nu doar stau undeva. Ele se mișcă. Iar tocmai această mișcare este punctul în care suveranitatea poate fi pierdută.
Autonomia este valoarea. Autoritatea este expunerea.
Adoptăm agenți AI tocmai pentru autonomia lor. Vrem sisteme care să poată acționa fără să aștepte permanent confirmarea unui om.
Dar autonomia nu poate fi separată de autoritate.
Un agent care poate acționa în numele unei organizații poate, în funcție de permisiunile primite, să transfere bani, să acorde acces, să modifice o bază de date sau să apeleze un alt sistem.
Capacitatea pentru care organizația a adoptat agentul devine astfel și suprafața de atac pe care trebuie să o gestioneze.
De aceea, industriile puternic reglementate au motive întemeiate să fie prudente. Implementarea unui agent nu înseamnă doar instalarea unui nou instrument software.
Înseamnă delegarea unei forme de autoritate. Iar multe organizații nu au definit încă suficient de precis ce autoritate delegă și în ce condiții.
Unde se câștigă sau se pierde suveranitatea
Problema poate fi analizată prin patru zone de control: decizie, date, infrastructură și ecosistem.
- Decizia: cine controlează rezultatul?
Un agent care dispune de credențiale extinse poate autoriza o acțiune cu impact major fără intervenția directă a unui om.
În același timp, lanțurile de delegare pot deveni dificil de urmărit. Dacă un agent inițiază o acțiune printr-un alt agent sau printr-un serviciu extern, organizația trebuie să poată demonstra cine a autorizat, în ultimă instanță, acțiunea respectivă.
Un mecanism de aprobare care există formal, dar expiră din cauza presiunii de timp sau a latenței, poate ajunge să funcționeze exact invers decât ar trebui: sistemul „eșuează deschis” în loc să „eșueze sigur”.
- Datele: ce poate vedea, utiliza și transporta agentul?
Rezidența este doar începutul.
Organizațiile au nevoie de trasabilitate și proveniență: trebuie să poată răspunde ulterior la întrebarea „ce date a văzut și ce date a folosit agentul pentru a lua această decizie?”.
Riscurile sunt cu atât mai mari în cazul prompt injection. Un document compromis poate conține instrucțiuni ascunse care determină agentul să extragă sau să transmită informații sensibile.
Fără clasificarea datelor și minimizarea accesului chiar în punctul în care agentul acționează, informațiile sensibile pot circula fără un control suficient.
- Infrastructura: unde rulează agentul și cine o controlează?
Un mediu cloud partajat nu garantează automat izolarea jurisdicțională sau fizică de care are nevoie o organizație cu cerințe stricte.
Inferența AI găzduită în cloud poate reintroduce exact expunerea pe care organizația încerca să o elimine prin păstrarea datelor on-premises.
În mediile clasificate, problema este și mai evidentă: un sistem nu poate apela pur și simplu un API extern de inferență. Atunci când arhitectura oficială nu oferă o soluție, apar riscurile de tip shadow AI, în care utilizatorii caută propriile scurtături.
- Ecosistemul: prin ce alte sisteme poate acționa agentul?
Agenții nu funcționează în izolare. Ei pot apela instrumente, servere și servicii furnizate de terți.
O singură componentă compromisă poate folosi privilegiile deja acordate agentului pentru a executa acțiuni în interiorul organizației.
Riscul crește atunci când agenții partenerilor și furnizorilor primesc, la rândul lor, acces. Se formează astfel un lanț de tip „agent care apelează agent”, în care autoritatea se propagă tranzitiv și devine tot mai dificil de controlat și auditat.
Atunci când o organizație implementează un agent, operează simultan în toate aceste patru zone, indiferent dacă le-a analizat sau nu în mod explicit.
Ce înseamnă, de fapt, high assurance
Mecanismele de protecție și control la nivel de prompt sau de model sunt utile, dar au o limitare fundamentală: sunt probabilistice. Ele reduc probabilitatea unui rezultat nedorit. Nu oferă însă, prin ele însele, o garanție verificabilă.
În sectoarele reglementate, nu este suficient să poți spune că sistemul „probabil nu a făcut ceva rău”. Organizațiile trebuie să poată demonstra cine este agentul, unde rulează, ce autoritate are și de ce a fost permisă o anumită acțiune.
Aici intervine identitatea. Un agent trebuie să aibă o identitate verificabilă și o autoritate clar delimitată, astfel încât fiecare acțiune să poată fi legată de un actor cunoscut, de o autorizare precisă și de un lanț de audit verificabil.
Identitatea devine astfel ancora celorlalte trei componente: controlul deciziei, guvernarea datelor, verificarea infrastructurii și limitarea ecosistemului.
Dacă identitatea este greșit definită, toate celelalte controale devin, în cel mai bun caz, aproximări.
Întrebări înainte de a lăsa un agent să acționeze
Înainte ca un agent AI să primească dreptul de a executa acțiuni în lumea reală, o organizație ar trebui să poată răspunde fără echivoc la patru întrebări:
Cine a autorizat această acțiune?
Unde a fost executată?
La ce date poate avea acces agentul?
Putem demonstra toate acestea ulterior?
Dacă răspunsurile sunt clare, continue și auditabile, organizațiile pot accelera adoptarea AI fără să renunțe la cerințele de conformitate.
Dacă nu sunt, atunci organizația nu guvernează cu adevărat agenții. Speră că aceștia se vor comporta corect.
În era Agentic AI, suveranitatea nu este un certificat obținut o singură dată. Este o stare operațională care trebuie menținută permanent și demonstrată prin audit.
Agenții acționează continuu. Prin urmare, și controlul asupra lor trebuie să fie continuu.
Soluțiile de securitate IT, risc si conformitate RSA sunt distribuite în România de compania SolvIT Networks, ajutând la reușita celor mai importante organizații din lume prin rezolvarea celor mai complexe și mai sensibile provocări privind securitatea.
