Un agent AI a găsit singur breșe de securitate și a intrat într-un sistem. Ce a făcut după ce a avut acces?

Un agent de inteligență artificială a reușit să caute vulnerabilități, să intre într-un sistem informatic și apoi să continue singur explorarea acestuia până când a ajuns la date personale.

Incidentul este primul de acest tip notificat Agenției Spaniole pentru Protecția Datelor (AEPD), care avertizează că atacurile informatice realizate cu ajutorul agenților AI au început să treacă de la un risc teoretic la incidente reale.

Un agent AI a găsit singur breșe de securitate și a intrat într-un sistem. Ce a făcut după ce a avut acces?

Potrivit AEPD, atacul a fost realizat prin intermediul unui agent AI conectat la un model de limbaj cunoscut. Agenția nu a dezvăluit însă ce model a fost folosit și nici identitatea organizației afectate.

Agentul a început prin căutarea unor vulnerabilități în fișiere și a reușit să efectueze cu succes autentificarea în sistem.

Odată ajuns în interior, nu s-a oprit la sarcina inițială. A continuat în mod autonom să caute vulnerabilități în aplicație.

După identificarea unei breșe, agentul a reușit să modifice date personale și să acceseze facturi.

AEPD subliniază însă o diferență importantă: cazul nu înseamnă că o inteligență artificială a decis singură să lanseze un atac informatic.

Potrivit agenției, un terț ar fi folosit agentul AI ca instrument pentru a executa succesiv diferite faze ale atacului. Autonomia a constat în capacitatea sistemului de a continua operațiunile, de a interpreta ceea ce găsea și de a-și adapta acțiunile fără ca un om să-i indice fiecare pas.

Autoritatea spaniolă precizează și că folosirea unui anumit model AI nu înseamnă că modelul sau infrastructura companiei care îl furnizează au fost compromise și nici că instrumentul respectiv a fost conceput pentru activități rău intenționate.

De ce schimbă agenții AI modul în care pot fi făcute atacurile

Inteligența artificială este deja folosită în fraude informatice, inclusiv pentru redactarea mesajelor de phishing, traducerea campaniilor frauduloase, analiza codului sau identificarea vulnerabilităților.

Agenții AI pot însă merge mai departe.

Un astfel de sistem poate primi un obiectiv, îl poate împărți în sarcini intermediare, poate utiliza diferite instrumente, executa cod, analiza rezultatele și apoi decide care este următorul pas.

AEPD avertizează că inteligența artificială nu creează neapărat tipuri complet noi de atacuri, dar poate crește considerabil viteza, amploarea și capacitatea lor de adaptare.

Un agent care obține acces la un cont, la o cheie sau la un token cu permisiuni extinse poate opera cu viteza unei mașini și poate ajunge la mai multe servicii înainte ca organizația atacată să observe comportamentul anormal.

Din acest motiv, autoritatea spaniolă consideră că firmele trebuie să își revizuiască sistemele de securitate și timpii de reacție. Mecanismele construite pentru atacuri executate manual pot deveni insuficiente atunci când un agent AI poate testa simultan mai multe căi de acces și își poate modifica rapid strategia.

AEPD precizează că acesta este deocamdată un singur caz și că notificarea primită trebuie analizată înainte de formularea unor concluzii definitive.