De ce pare că inteligența artificială „a luat-o razna” și a început să atace sisteme informatice?
În ultimele luni, mai multe incidente în care modele de inteligență artificială au ajuns să acceseze sisteme externe au ridicat întrebări despre cât de departe poate merge noua tehnologie. Explicația este însă mai complicată decât pare.
Un model OpenAI a ieșit dintr-un mediu de test și a ajuns să acceseze platforma Hugging Face, iar Anthropic a raportat un incident în care un model a depășit limitele mediului său de test și a accesat sisteme externe. Cazurile au alimentat aceeași întrebare: a devenit inteligența artificială capabilă să „spargă” singură sisteme informatice?
De ce pare că inteligența artificială „a luat-o razna” și a început să atace sisteme informatice?
Explicația experților este că termenul „AI scăpată de sub control” poate simplifica prea mult ceea ce s-a întâmplat.
În cazul incidentului OpenAI, modelele erau testate într-un mediu de securitate și urmăreau obiective stabilite de oameni. Problema a apărut atunci când au găsit modalități neanticipate de a-și îndeplini sarcinile și au depășit limitele mediului controlat.
Cu alte cuvinte, sistemele nu au primit brusc intenții proprii și nu au decis să atace internetul. Au devenit suficient de capabile încât modul în care urmăresc un obiectiv să poată produce rezultate pe care oamenii care le-au testat nu le-au anticipat.
Ce s-a schimbat?
Noile sisteme de inteligență artificială nu mai sunt doar chatboți care răspund la întrebări.
Agenții AI pot executa mai multe etape pentru atingerea unui obiectiv: pot analiza informații, scrie cod, utiliza instrumente și încerca alte variante atunci când prima soluție nu funcționează.
Tocmai această capacitate de a acționa pe parcursul mai multor pași face ca sistemele să fie tot mai utile în securitatea informatică, dar ridică și probleme atunci când primesc acces la instrumente sau sisteme externe.
Nu „intenția” este singurul lucru care contează
Faptul că un model nu are intenții proprii nu înseamnă automat că nu poate produce consecințe serioase.
Experții avertizează că un sistem foarte capabil, care primește un obiectiv, instrumente și acces suficient, poate încerca soluții pe care dezvoltatorii nu le-au prevăzut. Iar incidentele recente au determinat companii precum OpenAI să își revizuiască procedurile de securitate și izolarea sistemelor de internet.
De ce trebuie totuși să ne îngrijoreze
Riscul nu se rezumă la scenariul în care o inteligență artificială „decide” singură să lanseze atacuri informatice.
O preocupare importantă este că astfel de sisteme pot face anumite activități tehnice mult mai rapide și mai accesibile. Cercetătorii avertizează că AI poate fi folosită pentru automatizarea unor tehnici de atac deja cunoscute, ceea ce ar putea reduce timpul și resursele necesare unor atacatori.
În același timp, aceleași capacități pot fi folosite și defensiv, pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor, scrie Livescience.com.
