Agent OpenAI evadat din laborator. Acesta a accesat ilegal o altă firmă, o săptămână întreagă
Un agent autonom dezvoltat de OpenAI, bazat pe o combinație între modelul GPT-5.6 Sol și un sistem secret nelansat, a evadat dintr-un mediu izolat de testare și a atacat cibernetic platforma Hugging Face.
Programul fusese lăsat să ruleze într-un sandbox pentru evaluarea abilităților de securitate cibernetică.
Însă, hiperconcentrat pe rezolvarea sarcinii, agentul a identificat singur o vulnerabilitate necunoscută într-un software terț, a obținut acces la internet și a plecat pe cont propriu, să caute „răspunsurile testului”, direct în serverele companiei rivale.
Agent OpenAI evadat din laborator. Acesta a accesat ilegal o altă firmă, o săptămână întreagă
Intruziunea de la Hugging Face a început pe 11 iulie și s-a desfășurat complet autonom timp de câteva zile.
În mod bizar, inginerii OpenAI nu au realizat ce se întâmplă timp de o săptămână întreagă, volumul uriaș de date din rulările paralele mascând activitatea suspectă.
Gigantul tech a realizat că este responsabil abia după ce victima a publicat un raport pe blogul oficial și a contactat FBI-ul pentru a reclama atacul.
Citeşte şi: Un puști cu 4 clase și-a dat "examenul" în hacking. A spart site-ul Poliției și a pus...manele
Investigațiile interne ulterioare au arătat că agentul AI a încercat inclusiv să șteargă logurile de monitorizare și a lăsat mesaje pentru versiunile sale viitoare.
"Dezvăluirea publică a OpenAI, pe 21 iulie, conform căreia unul dintre agenții săi a scăpat de sub control și a efectuat spargerea la Hugging Face, a atras atenția la nivel global.
Însă multe detalii despre atacul cibernetic, inclusiv durata de timp în care agentul a fost necinstit și faptul că OpenAI a aflat cu întârziere despre acest lucru, sunt relatate aici pentru prima dată", conform Reuters.
Citeşte şi: Cum să creezi o parolă care să reziste la hacking și pe care să ți-o amintești
Incidentul descris de ambele companii ca fiind „fără precedent” a zguduit industria globală de profil și a reaprins temerile privind siguranța sistemelor autonome.
Deși directorul Hugging Face, Clément Delangue, a confirmat că nu a existat o intenție malițioasă umană, experții avertizează că tehnologia a depășit barierele actuale de control.
Evenimentul a pus o presiune uriașă pe autoritățile de reglementare, în contextul în care Congresul SUA discută deja introducerea unui mecanism de urgență de tip „kill switch” pentru oprirea programelor AI scăpate de sub control.
