Nvidia, alături de zeci de giganți tehnologici, a lansat o inițiativă de siguranță a inteligenței artificiale axată pe modele deschise.
Aceasta vine în urma știrii că un model chinezesc de inteligență artificială cu greutate deschisă a reușit să se apere împotriva unui atac cibernetic efectuat de modele OpenAI malefice.
Sectorul tehnologic respinge apelurile de la Washington de a limita adoptarea tot mai mare a modelelor chinezești de inteligență artificială, dintre care cele mai capabile sunt deschise.
Săptămâna trecută, a ieșit la iveală că ținta atacului, startup-ul Hugging Face, nu a putut utiliza modele americane de top pentru a se apăra, barierele de protecție nefăcând distincție între agresor și apărător. În schimb, a apelat la un model chinezesc auto-găzduit, cu greutate deschisă, care nu era supus acelorași restricții.
În urma analizei tot mai accentuate a legislatorilor americani privind modalitățile de a limita adoptarea tot mai mare a modelelor chinezești de inteligență artificială, dintre care cele mai avansate sunt cele de tip open-weight, giganții tehnologici au lansat o inițiativă care vizează construirea și partajarea instrumentelor de inteligență artificială deschise.
Modelele deschise pot fi descărcate, modificate și auto-găzduite, spre deosebire de modelele închise – inclusiv sistemele de frontieră construite de Anthropic și OpenAI – care pot fi accesate doar printr-o infrastructură specifică.
„Open Secure AI Alliance va lucra pentru a remedia și dezvălui vulnerabilitățile folosind tehnologii deschise”, a declarat Nvidia într-un comunicat. „Recentul incident de securitate Hugging Face a adus o reamintire clară: apărătorii cibernetici au nevoie de sisteme agențice deschise, de frontieră, pentru autoapărare.”
Alături de Nvidia, alți membri ai alianței includ Microsoft, SpaceX, Palantir și zeci de alte companii de tehnologie din SUA și Europa.
Efortul de a limita inteligența artificială chineză
Există tot mai multe apeluri pentru măsuri de limitare a accesului la modelele construite de companiile chineze de inteligență artificială, care au fost acuzate de campanii de extragere a informațiilor din sistemele rivalilor americani, cunoscute sub numele de „distilare” – atunci când un model extrage cunoștințe dintr-un model mai bine antrenat.
Săptămâna trecută, secretarul Trezoreriei, Scott Bessent, a amenințat cu sancțiuni asupra companiilor chineze care comit atacuri de distilare împotriva companiilor americane.
„Există o posibilitate reală ca guvernul SUA să impună restricții asupra modelelor chineze”, a declarat pentru CNBC Chris McGuire, cercetător senior pentru China și tehnologii emergente, la think tank-ul Council on Foreign Relations.
Aceasta ar putea include o interdicție asupra tranzacțiilor care implică modelele, cum ar fi achiziționarea de token-uri prin intermediul unui API sau companiile americane care găzduiesc modelul în cloud și taxează clienții pentru inferență, a spus el.
„La Washington, aceasta nu este o dezbatere despre open-source vs. closed-source, ci este o dezbatere despre dacă să tolerăm sau nu furtul de proprietate intelectuală chineză”, a spus McGuire. „Orice acțiuni s-ar concentra pe companiile chineze, nu pe ecosistemul open-source.”
Dar, având în vedere că majoritatea celor mai capabile modele open source sunt construite de companii chineze, există îngrijorări cu privire la restricții.
Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir și peste 20 de alte companii au publicat o scrisoare prin care îndeamnă factorii de decizie să evite „restricții premature” asupra modelelor de inteligență artificială deschise, care ar „înăbuși concurența sau ar stimula inovația în străinătate”.
Incidentul OpenAI-Hugging Face a arătat un „adevăr practic”, a declarat Nvidia. „Atunci când apărătorii nu pot inspecta, adapta și rula inteligență artificială avansată pe propria infrastructură, capacitatea lor de răspuns este limitată exact în momentul în care viteza contează cel mai mult.”
