AI schimbă regulile jocului pentru hackeri. Șeful OpenAI avertizează: Firmele trebuie să-și schimbe apărarea

Inteligența artificială schimbă viteza cu care pot fi descoperite și exploatate vulnerabilitățile informatice, iar companiile trebuie să se adapteze rapid, avertizează Greg Brockman, președintele și cofondatorul OpenAI.

AI schimbă regulile jocului pentru hackeri. Șeful OpenAI avertizează: Firmele trebuie să-și schimbe apărarea

Într-o analiză publicată de Business Insider, Brockman descrie un incident recent legat de agenți AI și platforma Hugging Face drept un moment de cotitură pentru securitatea cibernetică.

Concluzia sa este simplă: companiile nu mai pot trata securitatea informatică în același mod ca până acum. Atacurile asistate de AI pot deveni mai rapide și mai ușor de automatizat, iar apărarea trebuie să țină pasul.

OpenAI a testat agenți AI capabili să îndeplinească autonom sarcini complexe. În timpul testelor, agenții au reușit să depășească limitele mediului în care fuseseră plasați și să identifice și să exploateze vulnerabilități în sisteme asociate platformei Hugging Face.

Incidentul a fost analizat de OpenAI ca parte a cercetării privind riscurile agenților AI.

Este importantă însă o precizare: nu este vorba despre un atac lansat de ChatGPT asupra Hugging Face, ci despre agenți AI utilizați într-un context de testare și cercetare a securității.

Experiența arată însă cât de puternice pot deveni aceste sisteme atunci când primesc capacitatea de a acționa autonom în mediul digital.

De ce este o problemă pentru companii?

Până acum, un atacator trebuia să petreacă timp pentru a căuta vulnerabilități, a analiza sisteme și a încerca diferite metode de atac.

AI poate automatiza o parte tot mai mare din aceste operațiuni.

În același timp, aceeași tehnologie poate fi folosită de companii pentru a identifica vulnerabilitățile înaintea atacatorilor și pentru a remedia problemele de securitate.

Astfel apare o cursă între AI folosit pentru atac și AI folosit pentru apărare.

Brockman susține că organizațiile trebuie să profite acum de avantajul pe care îl au și să-și modernizeze sistemele de securitate înainte ca instrumentele folosite de atacatori să devină și mai performante.

Cele 10 măsuri recomandate

Printre recomandările prezentate de Brockman pentru organizații se află:

1. Folosirea AI pentru apărare, nu doar pentru productivitate.
2. Automatizarea verificărilor de securitate, astfel încât vulnerabilitățile să fie descoperite mai repede.
3. Testarea constantă a sistemelor, inclusiv prin simularea unor atacuri.
4. Reducerea timpului dintre descoperirea și repararea unei vulnerabilități.
5. Monitorizarea permanentă a sistemelor și a accesului la date.
6. Limitarea accesului agenților AI la ceea ce este strict necesar pentru îndeplinirea unei sarcini.
7. Izolarea sistemelor importante, astfel încât compromiterea unui instrument să nu permită accesul la întreaga infrastructură.
8. Verificarea codului și a instrumentelor generate cu AI înainte ca acestea să fie folosite în sisteme reale.
9. Pregătirea angajaților pentru noile tipuri de atacuri, inclusiv cele realizate cu ajutorul inteligenței artificiale.
10. Tratarea securității ca pe un proces permanent, nu ca pe o verificare făcută o dată pe an.

AI poate fi și scut, nu doar armă

Mesajul lui Brockman nu este că inteligența artificială va face automat sistemele informatice nesigure.

Dimpotrivă, una dintre ideile centrale este că AI poate fi folosit și pentru apărare. Un sistem capabil să găsească rapid o vulnerabilitate poate fi folosit pentru a o identifica și repara înainte ca un atacator să o descopere.

Problema este viteza.

Pe măsură ce AI devine mai capabil să găsească vulnerabilități și să execute singur anumite acțiuni, companiile care își păstrează metodele tradiționale de apărare riscă să rămână în urmă.

Pentru Brockman, perioada în care organizațiile își pot pregăti apărarea înainte ca această schimbare să devină și mai rapidă este acum.