Creșterea AI generativă a schimbat peisajul amenințărilor pentru echipele de protecție a datelor, deoarece angajații lipesc materiale confidențiale în chatbot-uri, companiile experimentează cu modele interne, iar liderii în domeniul securității încearcă să distingă utilizarea autorizată de AI din umbră.
Această schimbare nu este teoretică. Este cea mai recentă provocare din îndelungatul său efort de a face protecția datelor mai rapidă, mai omniprezentă și mai eficientă.
Sistemele de prevenire a pierderii de date (DLP) trebuie să detecteze datele sensibile trimise motoarelor de chat AI și modelelor lingvistice mari (LLM). Companiile care instruiesc sisteme AI trebuie să elimine informațiile sensibile din seturile de date de instruire pentru a preveni scurgerile indirecte. Și adesea angajații utilizează servicii AI neautorizate pentru a crește productivitatea, fără a se preocupa de problemele de securitate.
„La un nivel înalt, DLP este ceea ce numim «stop stupid”, spune Yuval Tarsi, inginer distins la Broadcom. „Este vorba despre cum împiedicăm utilizatorii să expună neintenționat date pe care nu ar trebui să le expună, cum ar fi trimiterea unui e-mail cu un document la care lucrează în contul lor Gmail, astfel încât să poată lucra la el de acasă. Nu intenționează să exfiltreze date. Nu intenționează să afecteze securitatea companiei. Vor doar să-și facă treaba, dar încalcă politicile și riscă potențial scurgeri de date.”
Tarsi și-a dedicat o mare parte din carieră dezvoltării tehnologiei pentru a ajuta organizațiile să prevină scurgerile de informații sensibile. El a contribuit la construirea motorului de protecție a datelor care identifică informațiile sensibile din fișiere și mesaje, folosind o varietate de tehnici – de la cuvinte cheie și expresii regulate la potrivirea documentelor și analiza imaginilor.
Deși proiectează sisteme DLP pentru a funcționa la scară și viteză enormă, ca maratonist, înțelege că unele curse – cum ar fi abordarea amenințărilor reprezentate de inteligența artificială – necesită o perspectivă mai lungă.
Un început în națiunea inovatoare
Crescând în Israel, computerele erau o parte normală a vieții de zi cu zi acasă pentru Tarsi. Tatăl său, matematician, a predat informatică la universitate. Când fratele său mai mare a primit un computer cadou de ziua sa, Tarsi a devenit rapid fascinat de acesta. Până a ajuns la universitate, direcția părea deja stabilită.
„Programez, scriam jocuri și chestii de genul acesta când aveam 10, 11, 12 ani… mi-a fost destul de clar de la început că asta vreau să fac”, spune el.
A studiat matematica și informatica la Universitatea din Tel Aviv, intrând în domeniu într-o perioadă în care sectorul tehnologic din Israel se extindea rapid. Tarsi și-a petrecut primii ani de carieră ajutând la conducerea eforturilor de inginerie la mai multe startup-uri și acumulând experiență în construirea de sisteme care trebuiau să funcționeze la scară largă încă de la început. Înainte de a se alătura Symantec, a lucrat la Check Point Software la oferta lor IDS/IPS bazată pe cloud. „Am lucrat cu o echipă foarte mică pentru a veni cu idei de produse noi și a le prototipa. Odată ce aveam ceva dovedit, acesta era preluat de organizația de produs și transformat într-un produs de producție.”
Acea perioadă a modelat modul în care abordează problemele până în ziua de azi, spune el, concentrându-se mai puțin pe teorie și mai mult pe cum să facă ideile complexe practice și fiabile în lumea reală.
Obsedat de eficiență
Una dintre provocările pe care Tarsi și le amintește cel mai clar din cariera sa la Symantec, acum parte a Broadcom, a implicat îmbunătățirea modului în care tehnologia companiei de prevenire a pierderii de date detectează informațiile sensibile – o problemă care s-a dovedit a fi mult mai dificilă decât părea inițial.
În centrul lucrării s-a aflat Exact Data Matching (EDM), o capacitate de lungă durată care permite sistemului să identifice înregistrări precum informații personale sau date de cont fără a stoca efectiv datele sensibile în sine. Facerea ca acest lucru să funcționeze eficient pe servere securizate era deja complexă. Facerea lui să funcționeze pe laptopuri și dispozitive endpoint, cu mult mai puține resurse și mai puțin control asupra mediului, era ceva ce mulți ingineri încercaseră să rezolve fără succes.
Tarsi a început să exploreze modalități de a reproiecta algoritmii subiacenți, astfel încât sistemul să poată efectua același tip de potrivire cu mult mai puțină memorie și putere de procesare, menținând în același timp cerințele stricte de securitate așteptate de clienți. „Am devenit puțin obsedat de asta și m-am tot gândit la asta timp de o lună sau două”, spune el.
Descoperirea a venit pe neașteptate într-o noapte, când soluția a dat lovitura. Până a doua zi dimineață, scrisese un prototip, executase teste pentru a confirma că abordarea va funcționa și trimisese rezultatele unui coleg înainte de a pleca într-o călătorie cu familia. Munca a dus în cele din urmă la ceea ce a devenit cunoscut sub numele de EMDI, o evoluție a tehnologiei originale de potrivire care a făcut practică rularea detectărilor în medii care anterior erau prea constrânse.
Experiența a surprins ceea ce îi place cel mai mult la inginerie: perioade lungi de incertitudine, nevoia de a aprofunda elementele fundamentale și momentul în care perseverența dă în sfârșit roade.
Perspectivă pe termen lung
În afara serviciului, Tarsi tinde să… să aleagă hobby-uri care necesită aceeași răbdare și precizie pe care le aduce el în inginerie. Ca alergător de fond, a finalizat mai multe maratoane, iar ca astrofotograf pasionat, înțelege orele lungi de lucru, configurarea atentă și cunoștințele tehnice aprofundate necesare pentru a captura obiecte abia vizibile.
Nebuloasa Ursuleț de Pluș
Ascensiunea inteligenței artificiale generative este o altă problemă care necesită o perspectivă pe termen lung, nu doar pentru a aborda amenințările cu care se confruntă clienții, ci și pentru a se adapta la modul în care este construit software-ul. Instrumentele care generează cod și automatizează munca de rutină schimbă deja ceea ce înseamnă să fii un inginer eficient.
El vede această schimbare îndeaproape acasă. Fiul său se gândește să studieze informatica, iar conversațiile lor se îndreaptă adesea către cât de repede evoluează profesia. Abilitățile care odinioară defineau inginerii buni devin mai puțin importante, înlocuite de nevoia de a înțelege mai profund sistemele pentru a ghida instrumente din ce în ce mai puternice.
Această dorință de adaptare a fost o constantă de-a lungul carierei lui Tarsi, de la începutul activității la startup-uri în Israel până la implicarea sa îndelungată în proiectarea arhitecturii tehnologiei DLP a Symantec la Broadcom. Inovația, crede el, implică întotdeauna incertitudine și acceptarea faptului că nu orice idee va avea succes.
