Președintele SUA a respins postările directorilor generali ai OpenAI și Anthropic care solicită o încetinire a inteligenței artificiale (AI) numindu-le farse, în timp ce șeful Meta continuă să insiste că AI este viitorul umanității. Cu toate acestea, având în vedere controlul public sporit asupra siguranței AI, liderii IT ar putea fi întrebați dacă strategia lor privind AI este susceptibilă de a se schimba în urma acestor ultime remarci.
În weekend, în urma celei mai recente actualizări privind încălcarea securității Claude Mythos, directorul general al Anthropic, Dario Amodei, a cerut ca dezvoltarea modelelor de AI de frontieră să fie accelerată. „Ca multe tehnologii anterioare, IA prezintă riscuri și, pentru că este o tehnologie atât de puternică, aceste riscuri sunt serioase”, a spus el.
„În ultimele luni, m-am convins că abordarea completă a riscurilor necesită și mai multă prudență – nu doar investiții în prevenirea riscurilor, ci și accelerarea ritmului de dezvoltare a capabilităților, astfel încât prevenirea riscurilor să aibă timp să țină pasul. Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de AI. Progresul va părea în continuare rapid și trebuie să folosim cu înțelepciune timpul câștigat”, a adăugat el.
Amodei a remarcat că AI a avansat drastic mai rapid, determinată în principal de capacitatea sa de a construi însăși următoarea generație de AI.
Marți, CEO-ul OpenAI, Sam Altman, a scris pe Twitter pe X: „Lumea merită încredere că firmele americane care dezvoltă o AI din ce în ce mai capabilă vor acționa responsabil, mai ales că traiectoria progresului s-a accentuat. Fiecare laborator de frontieră trebuie să realizeze acest lucru și nu există niciun motiv pentru care vreunul dintre noi să vină la muncă dacă nu poate.”
El a susținut că OpenAI este încântat de audituri independente ale modelelor sale de frontieră. „Salutăm un cadru federal care stabilește cerințe de siguranță consecvente pentru AI de frontieră. Dar nu credem că trebuie să așteptăm o excepție sau o legislație antitrust pentru a începe să oferim această încredere. Reguli consecvente pentru gestionarea riscului de frontieră, astfel încât să putem maximiza beneficiile, sunt o idee bună”, a declarat Altman.
Aceste observații vin în urma diverselor studii care explorează riscul AI pentru umanitate. Un raport MIT FutureTech, bazat pe un studiu Delphi realizat pe 272 de experți internaționali, a avertizat asupra riscurilor existențiale, de la generarea de dezinformări de către AI care subminează societatea, impactul asupra mediului și pierderea de locuri de muncă, până la atacuri cibernetice și arme care utilizează creiere bazate pe AI. Experții au considerat că există o probabilitate de peste 10% de rezultate catastrofale în următorii cinci ani.
O zonă care este adesea trecută cu vederea este ceea ce experții din studiul Delphi clasifică drept „riscul centralizării puterii”. Acesta este locul în care aceleași entități care dezvoltă IA sunt adesea cel mai bine poziționate pentru a profita de beneficiile acesteia, creând dinamici auto-întăritoare care sunt dificil de inversat doar prin intervenții tehnice.
În august, cofondatorul Microsoft, Bill Gates, a avertizat asupra riscurilor AI, analizând în special decalajul de avere. „AI va fi fie cel mai mare egalizator inventat vreodată, fie cea mai gravă sursă de nedreptate”, a spus el. „Provocarea este monumentală. Cum vom folosi această tehnologie pentru a face lumea un loc mai dreaptă și pentru a o împiedica să adâncească decalajul dintre bogați și săraci? Cum îi vom proteja pe cei mai vulnerabili la daunele pe care le provoacă?”
O schimbare de atitudine
Arun Chandrasekaran, distins vicepreședinte analist la Gartner, a descris apelul șefilor din domeniul AI de a aborda siguranța modelelor de AI de frontieră ca necesitând o schimbare în gândirea întreprinderilor de la agilitate la agilitate AI cu siguranță.
„CIO ar trebui să acorde prioritate cazurilor de utilizare dovedite, consolidând în același timp guvernanța, evaluarea, securitatea, observabilitatea și supravegherea umană a AI. CIO-urile și CISO-urile trebuie să își definească propriile bariere de siguranță AI de la un capăt la altul, specifice fiecărui caz de utilizare”, a spus el, adăugând că acestea ar trebui să completeze puternic barierele de siguranță oferite de furnizorii de tehnologie AI.
Și săptămâna trecută – înainte de postările lui Amodei și Altman – Boston Consulting Group a declarat că dorința de a avansa rapid în domeniul AI fără a implementa o gestionare adecvată a riscurilor poate duce la o defecțiune a sistemului sau la implementarea cazurilor de utilizare în domenii cu cerințe de reglementare stricte pentru care organizațiile nu sunt pregătite.
„Aceasta este o răspundere serioasă pentru afaceri și ar putea duce în cele din urmă la o erodare a încrederii clienților”, a avertizat Steve Mills, director general și partener la BCG. El a descris guvernanța AI ca fiind „o deblocare uriașă a afacerii, nu doar un blocaj”, deoarece permite organizațiilor să își concentreze resursele asupra cazurilor de utilizare care pot oferi cea mai mare valoare, precum și să gestioneze riscul.
Având în vedere că guvernanța AI poate fi utilizată ca un criteriu pentru alegerea celor mai bune proiecte de dus mai departe, GaChandrasekaran, partenerul companiei, a îndemnat directorii IT să continue să discute cu șefii lor de afaceri despre finanțarea inițiativelor de inteligență artificială cu valoare comercială măsurabilă. „Integrați opționalitatea în strategiile de inteligență artificială prin arhitecturi modulare, furnizori multipli de modele, evaluare solidă și capacitatea de a schimba rapid modelele pe măsură ce evoluează capacitățile și riscurile”, a spus el.
Un factor pe care directorii IT îl vor trebui să îl ia în considerare dacă barierele de siguranță încetinesc ritmul dezvoltării modelelor de frontieră este faptul că piețele financiare pariază că creșterea inteligenței artificiale va continua să se accelereze. Dacă acest sentiment se schimbă, unele companii de inteligență artificială ar putea constata că finanțarea lor se diminuează.
Daniel Turgel, partener și co-șef al grupului global de industrie tehnologică al White & Case, a declarat: „Dacă așteptările privind cheltuielile se diminuează, implicațiile ar putea fi semnificative, extinzându-se dincolo de dezvoltatorii de inteligență artificială la producătorii de cipuri, furnizorii de energie și companiile de infrastructură. O selectivitate mai mare a investitorilor ar putea, de asemenea, accelera consolidarea, deoarece companiile cu bilanțuri mai solide achiziționează tehnologie de la concurenți mai puțin capitalizați.”
În ciuda faptului că companiile rivale solicită o încetinire a dezvoltării modelelor de inteligență artificială de frontieră, CEO-ul Meta, Mark Zuckerberg, a rămas până acum tăcut, iar compania sa rămâne angajată să impulsioneze dezvoltările inteligenței artificiale.
Conform lui Zuckerberg, AI reprezintă viitorul umanității. El a promis „superinteligență” pe platforma de socializare Meta. „Comunitățile americane vor avea o prosperitate și o securitate mai mare dacă America și aliații săi vor conduce în domeniul IA, comparativ cu rivalii geopolitici”, a spus el.
Acest punct de vedere este aliniat cu cel al actualei administrații americane. Președintele american Donald Trump a declarat anterior: „SUA este liderul în domeniul AI, iar administrația noastră intenționează să mențină acest lucru”.
Ca răspuns la avertismentele lui Altman și Amodei, Trump a postat pe platforma sa de socializare, Truth Social: „În ceea ce privește AI, când, în istoria afacerilor, i-a văzut cineva pe liderii unei industrii solicitând reglementări care, dacă sunt implementate cu fermitate, îi vor duce în uitare și faliment? AI care preia lumea, distruge umanitatea și toate celelalte lucruri rele este o farsă”.
