Cofondatorul companiei atacate cibernetic de inteligența artificială: „Regulile jocului s-au schimbat”
Compania atacată de modelele OpenAI care au scăpat de sub control afirmă că este „un semnal de alarmă”. Agenții AI au ieșit dintr-un mediu de testare securizat în timpul unei încercări și au lansat un atac cibernetic.
Cofondatorul Hugging Face, un start-up din domeniul tehnologiei care a fost atacat după ce unele dintre cele mai avansate modele de inteligență artificială (IA) ale OpenAI au scăpat de sub control, a declarat joi că incidentul reprezintă „un semnal de alarmă” pentru industrie.
Cofondatorul companiei atacate cibernetic inteligența artificială: „Regulile jocului s-au schimbat”
Thomas Wolf a declarat în cadrul emisiunii radio „Newsday” a BBC că „acesta va fi unul dintre cele mai frecvente tipuri de atacuri cibernetice cu care ne vom confrunta”, dar că majoritatea firmelor nu sunt conștiente că „regulile jocului s-au schimbat”.
Producătorul ChatGPT a declarat marți că modelele sale de AI au ieșit dintr-un mediu de testare securizat în timpul unei încercări și au lansat un atac cibernetic. Compania a afirmat că incidentul a fost „fără precedent” și că desfășoară o anchetă împreună cu Hugging Face.
Agenții de AI sunt capabili să funcționeze autonom pentru a îndeplini sarcini după ce primesc instrucțiuni de la oameni.
Wolf a spus că Hugging Face nu avea inițial nicio idee de unde provenea atacul când au apărut semne ale acestuia la mijlocul lunii iulie, dar că firma a reușit să limiteze breșa de securitate.
Hugging Face este unul dintre cele mai mari hub-uri open-source din lume pentru partajarea modelelor de IA și este adesea utilizat de dezvoltatori și cercetători din domeniul tehnologic.
Wolf a afirmat că breșa a fost „foarte diferită” de atacurile cibernetice obișnuite cu care se confruntă adesea Hugging Face și că OpenAI a informat rapid compania că modelele sale se aflau la originea atacului.
Citește și: O văduvă dă în judecată OpenAI pentru moartea soțului său într-un atac armat. Ce a făcut ChatGPT?
Într-un „timp foarte scurt”, au avut loc 17.000 de atacuri asupra rețelei Hugging Face provenind de la diverse adrese IP (Internet Protocol), a declarat Wolf, care este, de asemenea, directorul științific al companiei.
Wolf a afirmat că acest incident reprezintă un avertisment pentru alte companii, care trebuie să-și consolideze măsurile de securitate cibernetică pentru a contracara astfel de atacuri, scrie BBCNews.com.
Sistemul știa că nu aceasta era intenția creatorilor dar nu i-a păsat
Acest incident este „îngrijorător” deoarece sugerează că modelele OpenAI au ignorat măsurile de siguranță obișnuite care ar împiedica un program de AI să comită un atac cibernetic, a declarat Nate Soares de la Institutul de Cercetare în Inteligență Artificială.
„Într-un anumit sens, sistemul știa că aceasta nu era intenția creatorilor. Pur și simplu nu i-a păsat”, a adăugat el.
Și alte organizații au luat act de acest incident.
Un purtător de cuvânt al guvernului britanic a declarat că Institutul de Securitate al IA din țară studiază modul în care s-a comportat sistemul de AI în cadrul incidentului și că continuă să colaboreze cu OpenAI și alte laboratoare pentru a consolida măsurile de protecție.
Acesta a îndemnat organizațiile să-și intensifice măsurile de securitate cibernetică prin adoptarea unor măsuri precum înscrierea în programul de certificare „Cyber Essentials”, susținut de guvern.
Citește și: Inteligența artificială este folosită pentru atacuri cibernetice, trafic de droguri și de arme
Incidentul a survenit într-un moment crucial pentru industrie, după ce, luna trecută, guvernul SUA a ordonat companiei americane de tehnologie Anthropic să restricționeze accesul la modelele sale de AI din motive de securitate națională. Departamentul Comerțului a ridicat restricțiile câteva săptămâni mai târziu.
Reprezentanții industriei și-au exprimat, de asemenea, îngrijorări legate de securitate cu privire la utilizarea pe scară largă a modelelor open-source în China, care permit oricui să instaleze și să personalizeze instrumentele de AI lansate de marii dezvoltatori.
Start-up-ul chinez Moonshot AI își va lansa modelul open-source Kimi K3 pe 27 iulie. De la debutul său de săptămâna trecută, acesta a atras atenția industriei, mulți considerându-l un concurent puternic pentru sistemele occidentale de AI de vârf.
Însă miercuri, un consilier al Casei Albe a acuzat Moonshot de o încercare „la scară largă” de a fura capacitățile celor mai bune modele de AI din SUA.
