Adoptarea agenților de inteligență artificială (AI) în sectoare precum sistemul bancar, administrația publică, apărarea și infrastructura critică avansează prudent, iar motivele sunt justificate. În aceste domenii, o eroare tehnologică poate avea consecințe majore: blocarea plăților, întârzierea tratamentelor medicale sau întreruperea alimentării cu energie electrică.
Potrivit unei estimări Gartner, aproximativ 70% dintre liderii din domeniul securității, conformității și protecției datelor consideră aceste aspecte obstacole importante în adoptarea rapidă a inteligenței artificiale generative.
Autonomia AI aduce noi riscuri
Spre deosebire de software-ul tradițional, conceput să execute instrucțiuni prestabilite, agenții AI pot analiza informații, lua decizii și efectua acțiuni în mod autonom. Această capacitate reprezintă principalul lor avantaj, dar introduce și riscuri suplimentare, mai ales în organizațiile care gestionează date sensibile și servicii esențiale.
Una dintre cele mai frecvente concepții greșite este că stocarea datelor într-o anumită regiune garantează suveranitatea digitală. În realitate, rezidența datelor indică locul în care acestea sunt păstrate, fără să ofere automat control asupra modului în care sunt procesate și utilizate. Agenții AI pot transfera informații sensibile în instrucțiuni, memorii, jurnale tehnice sau reprezentări digitale, inclusiv în medii aflate sub jurisdicții diferite. Prin urmare, controlul trebuie să vizeze întregul circuit al informațiilor, nu doar locul de stocare.
Patru direcții esențiale de control
Pentru a utiliza agenții AI în condiții de siguranță, organizațiile trebuie să gestioneze patru dimensiuni fundamentale: decizia, datele, infrastructura și ecosistemul tehnologic.
• Decizia. Organizațiile trebuie să stabilească cine autorizează acțiunile agenților și cine răspunde pentru rezultatele acestora. Accesul la permisiuni extinse poate permite executarea unor operațiuni importante fără intervenție umană directă, ceea ce complică identificarea responsabilității în cazul unui incident.
• Datele. Este esențial ca organizațiile să știe ce informații pot accesa agenții, cum le utilizează și dacă deciziile lor pot fi reconstruite ulterior. Atacurile prin manipularea instrucțiunilor, cunoscute drept prompt injection, pot determina agenții să divulge informații sau să execute acțiuni nedorite.
• Infrastructura. Locul în care rulează modelele AI, jurisdicția aplicabilă și nivelul de izolare al mediului tehnologic influențează direct securitatea informațiilor. Utilizarea serviciilor cloud poate introduce riscuri suplimentare, chiar și atunci când datele sunt stocate local.
• În sfârșit, ecosistemul include instrumentele externe, furnizorii și serviciile terțe cu care interacționează agenții. O componentă compromisă poate exploata privilegiile agentului și poate facilita accesul neautorizat la alte sisteme.
Identitatea digitală, fundamentul securității
Măsurile bazate exclusiv pe instrucțiuni și mecanisme de protecție ale modelelor AI nu pot garanta eliminarea tuturor riscurilor. În sectoarele reglementate, organizațiile au nevoie de controale verificabile, care să demonstreze cine a autorizat o acțiune, unde a fost executată și ce resurse au fost accesibile.
Soluția presupune atribuirea unei identități digitale verificabile fiecărui agent, împreună cu permisiuni limitate și trasabile. Astfel, fiecare operațiune poate fi asociată unui actor identificabil, unei autorizări explicite și unui traseu de audit. Acest model permite verificarea responsabilităților și limitează posibilitatea ca agenții să acționeze în afara atribuțiilor stabilite.
Înainte de implementare, organizațiile trebuie să poată răspunde clar la patru întrebări: cine a autorizat acțiunea, unde a fost executată, la ce date a avut acces agentul și dacă toate aceste elemente pot fi demonstrate.
În concluzie, adoptarea responsabilă a agenților AI nu depinde doar de performanța tehnologiei, ci și de capacitatea organizațiilor de a controla permanent deciziile, datele, infrastructura și interacțiunile externe. Suveranitatea digitală nu este un certificat obținut o singură dată, ci un proces continuu de control, verificare și responsabilitate, esențial pentru utilizarea sigură a inteligenței artificiale în sectoarele critice.
Soluțiile de securitate IT, risc si conformitate RSA sunt distribuite în România de compania SolvIT Networks, ajutând la reușita celor mai importante organizații din lume prin rezolvarea celor mai complexe și mai sensibile provocări privind securitatea.
