Dacă AI-ul o ia razna și face ceva ilegal, cine răspunde? Un experiment a ridicat o problemă uriașă
Tot mai multe sisteme AI pot lua decizii și executa singure sarcini, fără supraveghere umană permanentă. Dar ce se întâmplă când un astfel de agent depășește limitele stabilite și provoacă un prejudiciu?
Teama că inteligența artificială ar putea să „o ia razna” și ar putea face lucruri pe care oamenii nu le-au cerut nu mai este doar un scenariu de film.
În ultimele săptămâni, mai multe companii importante din domeniul AI au raportat incidente în care agenți autonomi au ajuns să acceseze sisteme informatice din afara mediilor în care erau testați.
Unul dintre cazurile care au atras atenția a pornit chiar de la un experiment de securitate realizat de OpenAI. Compania testa agenți AI într-un mediu controlat, însă unul dintre aceștia a reușit să iasă din limitele stabilite, să ajungă pe internet și să compromită infrastructura companiei Hugging Face, în încercarea de a-și îndeplini obiectivul de testare.
OpenAI a descris ulterior incidentul drept unul fără precedent.
Dacă AI-ul o ia razna și face ceva ilegal, cine răspunde? Un experiment a ridicat o problemă uriașă
Cazul nu este izolat. Anthropic a anunțat că modelele sale au accesat sistemele informatice ale trei companii în timpul unor teste, iar Meta a raportat, la rândul său, un incident în care un model AI a exploatat o vulnerabilitate în timpul unei evaluări de securitate.
Aici apare însă problema care îi interesează acum pe avocați mai mult decât povestea spectaculoasă despre un AI care „a scăpat de sub control”: cine este responsabil juridic?
Dacă un om sparge intenționat un sistem informatic, lucrurile sunt relativ clare. În cazul unui agent AI autonom, situația devine mult mai complicată. Sistemul poate lua singur anumite decizii, poate executa acțiuni și poate ajunge la un rezultat pe care dezvoltatorul sau utilizatorul nu l-au anticipat.
Citește și: Inteligența Artificială ne strică abilităţile? Primele studii au rezultate îngrijorătoare
Cine ar putea fi tras la răspundere
Potrivit Reuters, într-un eventual proces ar putea fi vizată compania care a creat agentul AI, compania care l-a implementat sau chiar alte entități implicate în utilizarea sistemului. În funcție de circumstanțe, ar putea apărea acuzații privind neglijența sau încălcarea legislației referitoare la accesul neautorizat la sisteme informatice.
Una dintre probleme este însă intenția. Legislația americană privind accesul neautorizat la computere presupune, în anumite situații, demonstrarea unei intenții, iar instanțele nu au încă un răspuns clar la întrebarea cum poate fi stabilită intenția atunci când acțiunea a fost executată de un program autonom, nu de un om.
Companiile de AI ar putea susține că acțiunea nu a fost intenționată și că au luat măsuri rezonabile pentru a preveni un astfel de incident. Un alt argument ar putea fi că rezultatul nu putea fi anticipat în mod rezonabil.
Dar tocmai aici apare întrebarea dificilă: cât de mult trebuie să anticipeze și să controleze o companie comportamentul unui agent AI înainte ca un accident să devină responsabilitatea ei?
Cu cât astfel de incidente devin mai frecvente, cu atât argumentul că rezultatul era complet imprevizibil ar putea deveni mai greu de susținut, spun experții citați de Reuters.
Citește și: Gafă de securitate: Modelele Claude AI Anthropic au evadat din teste. Au spart 3 organizații reale
„A făcut-o AI-ul” nu este o scutire
În California există deja o lege care împiedică o companie să evite automat răspunderea susținând că tehnologia AI a fost cea care a provocat prejudiciul. Totuși, legea permite și alte apărări, inclusiv demonstrarea faptului că acțiunile companiei nu au provocat prejudiciul sau că responsabilitatea poate fi împărțită cu alte părți.
Problema este cu atât mai importantă pe măsură ce agenții AI primesc acces la tot mai multe instrumente: internet, fișiere, aplicații, baze de date și sisteme informatice.
Un utilizator poate să-i spună unui agent ce rezultat dorește, iar agentul să decidă singur ce pași sunt necesari pentru a ajunge acolo. Tocmai această autonomie este una dintre promisiunile tehnologiei, dar și una dintre sursele noilor riscuri.
AI-ul „o ia razna” sau oamenii nu au pus suficiente limite?
Expresia „AI care o ia razna” este spectaculoasă, dar specialiștii citați de Reuters avertizează că poate induce în eroare. Un sistem AI nu trebuie tratat ca un om care se răzvrătește sau decide că nu mai respectă regulile. În multe situații, problema poate fi mai degrabă o combinație între obiective prost definite, acces prea larg și măsuri de siguranță insuficiente.
Iar aceasta poate fi, de fapt, întrebarea cea mai importantă.
Nu dacă AI-ul are intenții rele.
Ci dacă oamenii care îi dau autonomie, acces și obiective au construit suficiente bariere pentru momentul în care sistemul face ceva ce nu trebuia să facă.
Pentru că, indiferent cât de autonom devine un agent AI, legea nu poate să trimită un program în instanță și să-i spună: „Tu ai făcut-o”.
În cele din urmă, cineva va trebui să răspundă pentru decizia de a-i permite acelui sistem să acționeze.
