Securitate — September 27, 2024 at 9:59 am

Securitatea și inteligența artificială generativă

by

Amenințarea internă devine semnificativă cu AI. Persoanele din interior cu cunoștințe intime despre compania lor pot folosi ChatGPT pentru a crea e-mailuri foarte realiste. Pot duplica stilul altuia, greșelile de scriere, totul. Mai mult decât atât, atacatorii se pot duplica site-uri exact.

Artificial Intelligence Content Generator. A man uses a laptop to interact with AI assistant. AI offers functions like chatbot, generate images, write code, writer bot, translate and advertising.

Soluțiile Enterprise Data Loss Protection (DLP) precum Symantec® DLP pot ajuta la blocarea acestor tipuri de atacuri. Codul nu este suficient de sofisticat acum, dar în cinci ani poate fi o altă poveste. Printre alte beneficii, DLP poate folosi AI pentru a accelera prioritizarea incidentelor, ajutând analiștii seniori să trieze cele mai semnificative amenințări și să le recunoască pe cele care nu reprezintă o amenințare critică pentru întreprindere.

ChatGPT, Bard și programe similare AI generative nu sunt un instrument atât de matur pe cât ar putea presupune unii. Adevărata problemă de securitate astăzi este modul în care programele AI îmbunătățesc calitatea și volumul e-mailurilor și site-urilor web de phishing. Social atacurile de inginerie se bazează pe utilizatorii care sunt neglijenți sau se grăbesc să facă clic pe un link de e-mail spear phish. Aceasta nu este o problemă intrinsecă AI, ci o natură mai umană. În ceea ce privește securitatea, apărarea împotriva acestor tipuri de atacuri nu este chiar una diferit de implementarea securității pentru Facebook și alte atacuri de phishing pe rețelele sociale. Cea mai mare amenințare este că, spre deosebire de rețelele sociale, unde o persoană postează postări unice, cu ChatGPT, actorii răi pot posta literalmente concerte de date la dată.

Inteligența artificială generativă poate duce cu ușurință la un caz de utilizare clasic de conformitate atunci când este folosită pentru a baza deciziile pe informații greșite.
Pentru a evita problemele de conformitate, organizațiile trebuie să sublinieze necesitatea unei mai bune igiene a datelor și să evalueze părtinirea atunci când testează soluții AI. Întreprinderile vor avea nevoie de noi resurse pentru a gestiona AI, pentru a gestiona prejudecățile și situațiile despre care nici măcar nu știm încă.

Beneficii pentru profesioniștii în securitate
Când am discutat despre peisajul amenințărilor în ceea ce privește numărul crescut de atacuri, am menționat că volumul poate fi și o dezvoltare pozitivă pentru profesioniștii în securitate. Dacă SOC-urile pot crește dimensiunea eșantionului, au un set mai mare de date pe care să le folosească pentru a-și regla propria AI, ceea ce le permite apoi să se protejeze împotriva acestor tipuri de atacuri. Combinația dintre o putere de calcul mai mare cu seturi de date mai mari permite, de asemenea, un răspuns mai rapid la atacuri. Este un potențial schimbător de joc, deoarece timpul mediu de răspuns (MTTR) s-ar putea micșora de la săptămâni la zile la chiar milisecunde.

Adevărata putere a acestor instrumente va fi realizată atunci când sunt instruite în seturi de date fiabile, bine cunoscute și relevante. Echipa Symantec Security Threat and Response (STAR) a folosit această tehnologie și metodă pentru generați informații despre amenințări credibile și precise.

Prioritizarea incidentelor
AI schimbă dramatic ghidul de prioritizare a incidentelor. Poate ajuta analiștii de securitate să prioritizeze incidentele de securitate mai eficient și mai consecvent. Acest lucru oferă un beneficiu semnificativ atât pentru protecția împotriva amenințărilor și protecția datelor. Când are loc o încălcare țintă, adesea problema nu este că analiștii de securitate nu știau că s-a produs încălcarea, ci că au existat atât de multe incidente, încât să reacționezi la toate a fost imposibil din punct de vedere fizic.
Același lucru este valabil din perspectiva DLP: care incident DLP ar trebui să fie prioritizat? Verifică analistul eventualele 4.000 de incidente care sunt deja blocate sau pe cel care ar fi putut trece prin unde au fost implicate date sensibile pentru un caz de utilizare care nu este deja acoperit? Inteligența artificială poate ajuta la accelerarea procesului de luare a deciziilor și poate ajuta la triajul și direcționarea analiștilor seniori către acele cazuri mai întâi.

Broadcom și AI generativă

Capacități adaptative și predictive
Broadcom are o cantitate enormă de date pe care rulăm motoarele noastre AI/ML. Divizia Symantec a inovat AI de cel puțin un deceniu.
Acest lucru ne-a oferit oportunitatea de a rula motoare ML și AI pe propriile noastre lacuri de date. Acest lucru ne oferă marea oportunitate de a deveni mai buni în identificarea amenințărilor atât cu datele pe care le avem, cât și cu evenimentele care au loc.
în altă parte. Permite soluțiilor Symantec să identifice mai rapid amenințările.
ChatGPT este un exemplu al modului în care ML – modelul de bază din spatele AI – a eliminat în esență o mare parte din complexitatea securității, creând o imagine pentru analiști din multe puncte de date diferite. Putem lua orice comportament și
vezi cum ar putea fi exploatat de atacatorii cibernetici. Putem spune apoi, deși nu există dovezi ale acestui atac specific, cum s-ar putea întâmpla, astfel încât un atac poate fi oprit înainte de a avea loc.

Avantajele Symantec
Avem o abordare unică în utilizarea inteligenței artificiale și a automatizării pentru a aduce împreună protecția datelor și protecția împotriva amenințărilor. Broadcom combină ambele scheme de date cu soluția noastră de securitate Symantec Enterprise Cloud (SEC), bazându-ne pe istoria noastră de integrare a AI în produsele și soluțiile noastre de securitate cibernetică.

Protejarea IP-ului utilizatorului și al întreprinderii este cheia concentrării noastre. Organizațiile care au deja soluția noastră DLP se pot simți deosebit de încrezătoare când vine vorba de amenințarea reprezentată de sistemele AI generative. Nu este adevărat că ChatGPT creează programe malware pe care nu le putem detecta. În acest caz de utilizare, nu începem de la zero.

Acum un deceniu, Symantec a început să folosească ML cu semnături. Această experiență a poziționat-o cu protecție antivirus. De atunci, sunt în fruntea inovației cu inteligența artificială. Cel mai recent, această inovație a fost valorificată în modul în care folosește tehnologia AI de protecție adaptivă pentru a proteja mediile întreprinderilor de schimbarea peisajului amenințărilor către atacuri mai sofisticate și mai direcționate.

Concluzii

Sistemele AI generative oferă un nou instrument valoros pentru organizațiile întreprinderilor:

• Permite profesioniștilor în securitate să ofere o securitate mai bună.
• Abordează deficitul de seturi de competențe în securitatea cibernetică și alte profesii bazate pe analize.
• Scurtează timpul de acces la cunoștințe acționabile prin reducerea timpului de detectare, răspuns la incident și remediere.
• Reduce timpul pentru noile talente cibernetice să devină productive.

Inteligența artificială generativă nu reprezintă o amenințare existențială dacă oamenii îi controlează utilizările și aceeași evoluție:

• Nu este intrinsec rău. Nu-ți fie frică de asta.
• Va schimba modul în care trăim și muncim, dar trebuie să fim precauți.
• Suntem încrezători – și vedem dovezile – că companiile pun bare de protecție în acest sens.

Apariția AI generativă ar putea să semnaleze începutul unei a cincea revoluții industriale: începutul unei noi ere în care tehnologia poate începe să ia decizii mai bune, mai inteligente și mai rapide în numele ființelor umane.

Pentru a afla mai multe, vizitați symantec.com

Soluțiile de securitate Symantec sunt distribuite în România de SolvIT Networks.