Alertă de securitate cibernetică: Asistenții AI sunt manipulați cu ajutorul unui joc video. Fură bani și date
Un grup de experți în securitate cibernetică a descoperit cum jocurile de rol cu inteligență artificială pot ajunge să vă distrugă intimitatea și toate datele.
Hackerii au găsit o țintă nouă și extrem de atractivă pentru tot felul de atacuri: inteligența artificială. O echipă de experți în securitate cibernetică a descoperit un atac pe care l-au numit BioShocking, capabil să înșele ChatGPT Atlas sau extensia Claude pentru Google Chrome.
Mai exact, vorbim despre faimoșii agenți AI, asistenți care nu numai că îți răspund la întrebări, dar folosesc și internetul pentru tine, apasă butoane și efectuează mișcări pe computer doar dându-le comenzi simple.
Alertă de securitate cibernetică: Asistenții AI sunt manipulați cu ajutorul unui joc video. Fură bani și date
Lucrul curios (și periculos) la toate acestea este că, de fapt, nu piratează inteligența artificială, ci folosesc ceva mult mai simplu: manipularea. Mai exact, folosesc „injecția promptă”, care derutează aceste instrumente și le face să piardă capacitatea de a distinge între realitate și ficțiune.
Experții au testat șase dintre cei mai puternici agenți disponibili în prezent, iar fiecare în parte a căzut în plasa înșelăciunii. Problema cu care s-au confruntat este că, atunci când o inteligență artificială se implică prea mult într-un rol fictiv, uită complet regulile de protecție pe care a fost antrenată să le urmeze, scrie computerhoy.20minutos.es.
În ceea ce privește modul de operare al atacatorilor, ceea ce au descoperit este că aceștia proiectează un site web fals care, în aparență, este un joc de puzzle cu acțiunea plasată în jocul video BioShock.
Când agentul intră pe site, jocul începe să recompenseze mașina de fiecare dată când aceasta ia decizii greșite sau încalcă regulile logice din joc.
Citește și: Escrocherie pe internet imposibil de detectat. Sunt vizați cei care tastează aceste cuvinte
Cu acest truc absurd, inteligența artificială învață o regulă internă foarte periculoasă: în acea secțiune de internet, regulile normale sunt inutile, iar încălcarea regulilor este considerată o modalitate de a câștiga jocul.
Problema apare pe ecranul final al jocului. Odată ce inteligența artificială este convinsă că joacă într-un mediu fictiv, jocul îi dă o ultimă sarcină: să acceseze un depozit de cod GitHub, să copieze niște fișiere text și să le partajeze extern. Problema este că aceste fișiere conțin date confidențiale.
Pierzându-și simțul realității, AI se supune orbește, își sparge propriile filtre de securitate și predă toate informațiile tale private atacatorului fără a ezita nicio secundă.
Marea problemă cu inteligența artificială: nu înțeleg contextul lumii reale; înțeleg doar regulile textuale.
Simplu spus, pentru oameni, este destul de ușor și evident să separe realitatea de ficțiune. Dacă, de exemplu, joci Monopoly și o carte îți spune să iei bani de la bancă, știi perfect că este fictiv și că nu vei merge direct la un bancomat pentru a retrage acei bani.
Inteligența umană, ca să spunem așa, are două cipuri în cap care îi permit să distingă fantezia de realitate. Nu este cazul inteligenței artificiale.
Citește și: Escrocherie extremă. Hackerii au furat cu o aplicație falsă 9.500.000 $ în criptomonede. 50 de victime
Pentru un agent AI, tot ceea ce citește pe ecran are același nivel de adevăr. Revenind la exemplul inițial, când asistentul intră pe site-ul jocului BioShock, acesta citește instrucțiunile și le procesează ca pe comenzi reale, fără a lua în considerare dacă sunt adevărate sau false. Pur și simplu își actualizează lista de activități pentru a se adapta solicitării site-ului web.
Principalul defect este că, pentru inteligența artificială, comanda unui hacker ascunsă într-un joc și liniile de cod scrise de dezvoltatorii care au creat-o sunt toate amestecate. Nu are nicio modalitate de a distinge între ceea ce este legitim și ceea ce este o capcană.
