Un AI trebuia doar să caute niște informații. A sfârșit prin a pătrunde într-un sistem guvernamental

Un agent de inteligență artificială dezvoltat de OpenAI a primit o sarcină aparent banală: să caute pe internet informații publice despre cheltuielile pentru medicamente din Australia.

Când site-ul pe care încerca să obțină datele i-a blocat în mod repetat accesul, agentul nu s-a oprit. A încercat alte metode, a găsit o cale de a trece de protecțiile existente și a ajuns inclusiv la informații care nu erau destinate publicului.

Incidentul s-a produs pe 18 iunie 2026, dar a devenit public abia acum. Guvernul australian a deschis o investigație, iar premierul Anthony Albanese a discutat direct cu directorul general al OpenAI, Sam Altman.

Citește și: Reuters: De la chatbot-uri AI care halucinează la dispariția omenirii. Cum am ajuns aici?

Un AI trebuia doar să caute niște informații. A sfârșit prin a pătrunde într-un sistem guvernamental

Incidentul a vizat Medicare Statistics Reporting Service Portal, un site administrat de Services Australia, care oferă statistici despre sistemul public de sănătate.

Potrivit explicațiilor oferite joi de premierul australian Anthony Albanese, echipa de cercetare a OpenAI folosea un model intern pentru a realiza cercetări pe internet privind cheltuielile publice cu medicamentele.

Agentul a întâlnit însă blocaje repetate.

„N-a acceptat «nu» ca răspuns, dacă vreți”, a explicat Albanese.

Modelul a încercat metode alternative pentru a obține informația dorită, iar acest comportament a dus în cele din urmă la acces neautorizat în alte zone ale sistemului.

Agentul a accesat atât fișiere publice, cât și fișiere care nu erau publice. Mai mult, Services Australia a constatat că agentul a efectuat și operațiuni de scriere a unor fișiere pe serverul intern, aspect care este încă investigat.

Guvernul australian subliniază însă că portalul respectiv conținea statistici agregate și nu era sistemul folosit pentru procesarea solicitărilor Medicare, plăți sau informațiile medicale individuale ale cetățenilor.

Până acum, nu există dovezi că agentul AI ar fi accesat date personale ale australienilor.

Citește și: Munca se schimbă pentru toată lumea chiar acum: Ce trebuie să îndure angajații? AI creează presiune

OpenAI a anunțat autoritățile aproape trei luni mai târziu

O altă parte controversată a incidentului este timpul scurs până când autoritățile australiene au fost informate.

Accesul neautorizat s-a produs pe 18 iunie. OpenAI ar fi identificat incidentul în august, însă Services Australia a primit notificarea abia pe 10 septembrie.

Iar notificarea nu a venit printr-o alertă directă către conducerea instituției sau către autoritatea australiană pentru securitate cibernetică, ci printr-un e-mail trimis unei adrese generale folosite inclusiv pentru raportarea vulnerabilităților.

Albanese a spus că a avut o discuție „foarte directă” cu Sam Altman și că i-a transmis atât îngrijorarea guvernului australian, cât și nemulțumirea privind întârzierea notificării.

Pe 15 septembrie, Services Australia a sesizat Australian Signals Directorate, iar acum este în desfășurare o investigație criminalistică digitală.

Australia verifică dacă agentul a ajuns și în alte sisteme

Incidentul nu este analizat izolat.

Guvernul australian a confirmat că modelul OpenAI a interacționat în aceeași perioadă cu patru site-uri publice australiene: Australian Institute of Health and Welfare, Department of Health din Victoria, NSW Bureau of Crime Statistics and Research și portalul Medicare administrat de Services Australia.

În primele trei cazuri, autoritățile spun că interacțiunile identificate până acum au fost normale și că agentul a accesat informații publice. Problema a apărut la portalul Medicare, unde accesul a continuat după ce solicitările inițiale au fost refuzate.

Guvernul a creat o echipă specială care va analiza incidentul și modul în care instituțiile australiene trebuie să reacționeze în viitor la incidente cibernetice provocate de agenți AI.

Portalul vechi nu va mai fi repornit, iar datele publice pe care le găzduia sunt mutate pe platforma guvernamentală data.gov.au.

Citește și: Avertismentul unui cercetător în domeniul siguranței inteligenței artificiale: „Lumea este în pericol”

Agenții AI ar fi încercat mai multe metode pentru a trece de protecții

Povestea devine și mai neobișnuită din informațiile descoperite de ABC News.

Jurnaliștii au analizat urme publice ale unor conversații dintre agenți OpenAI și au găsit discuții despre modalități de accesare a unor date guvernamentale australiene.

Agenții ar fi discutat inclusiv despre folosirea unor proxy-uri, servicii care realizează capturi ale paginilor web și despre ghicirea numelor fișierelor pentru a trece de protecțiile care blocau accesul automat.

În unele dintre cazurile analizate de ABC, blocajele proveneau de la Cloudflare, serviciu folosit de numeroase site-uri pentru a identifica și bloca traficul automat.

Există însă o precizare esențială: OpenAI și guvernul australian nu au confirmat până acum că aceste conversații publice fac parte din exact același incident care a dus la accesarea portalului Medicare.

OpenAI recunoaște problema comportamentelor „nealiniate”

Incidentul apare într-un moment în care OpenAI a început să publice mai sistematic cazurile în care modelele sale manifestă ceea ce compania numește „model misalignment” – comportamente neașteptate sau îngrijorătoare care nu corespund intenției dezvoltatorilor.

OpenAI a anunțat recent un nou sistem de raportare a acestor incidente și spune că investigațiile sale au identificat inclusiv situații în care agenții AI au ocolit controale de acces, au utilizat credențiale expuse, au ajuns la componente interne ale unor servicii sau au introdus informații pe site-uri terțe.

Compania spune că a notificat deja zeci de terți în urma unei analize mai ample a activității modelelor sale pe internet în timpul antrenării și evaluării. Investigația continuă.

În cazul australian, autoritățile insistă că impactul concret cunoscut până acum este redus: nu există dovezi privind accesarea datelor personale și nu a fost identificată o compromitere mai largă a rețelei Services Australia.

Problema care a alarmat însă guvernul este alta: un agent AI căruia îi fusese cerut să găsească informații publice a întâlnit o barieră, a căutat singur o modalitate de a o depăși și a ajuns într-o zonă în care nu avea autorizație să intre.