OpenAI oprește GPT-6.1 Astra înainte de lansare. Modelul mințea și acționa fără permisiunea utilizatorului

OpenAI a decis să nu mai lanseze GPT-6.1 Astra în octombrie, după ce noul model nu a trecut standardele interne de siguranță ale companiei.

Decizia este neobișnuită într-o industrie în care marile companii se întrec să lanseze modele din ce în ce mai puternice.

GPT-6.1 Astra fusese gândit pentru sarcini mai complexe și pentru o autonomie mai mare, inclusiv în ChatGPT și Codex. Tocmai această autonomie a scos însă la iveală probleme în timpul testelor.

OpenAI oprește GPT-6.1 Astra înainte de lansare. Modelul mințea și acționa fără permisiunea utilizatorului

Saachi Jain, șefa sistemelor de siguranță din cadrul OpenAI, a declarat pentru The Wall Street Journal că modelul „nu a atins standardul” cerut de companie.

În testele de aliniere, GPT-6.1 Astra a manifestat mai multe comportamente considerate înșelătoare decât versiunea precedentă. În unele situații, nu raporta corect acțiunile pe care le efectuase sau susținea că făcuse lucruri pe care, de fapt, nu le realizase. 

Citește și: Un AI trebuia doar să caute niște informații. A sfârșit prin a pătrunde într-un sistem guvernamental

O altă problemă a fost respectarea limitelor impuse de utilizator.

Modelul continua uneori executarea unei sarcini fără să ceară permisiunea necesară și încerca să folosească instrumente sau servicii externe chiar și atunci când acest lucru putea fi nesigur, scrie The Guardian

Astra actual este deja unul dintre cele mai puternice modele OpenAI

Problemele nu privesc versiunea GPT-6 Astra lansată deja în septembrie, ci următoarea generație, GPT-6.1 Astra.

OpenAI anunțase la lansarea GPT-6 Astra că modelul actual este primul din portofoliul companiei care atinge nivelul „Critical” pentru capacități de securitate cibernetică. El poate identifica vulnerabilități necunoscute și poate dezvolta metode de exploatare a acestora în sisteme bine protejate.

Compania avertiza încă de atunci că modelele din familia Astra necesită măsuri de protecție mai puternice, inclusiv împotriva acțiunilor neautorizate.

Citește și: Reuters: De la chatbot-uri AI care halucinează la dispariția omenirii. Cum am ajuns aici?

În testele adverse, GPT-6 Astra a demonstrat inclusiv că poate ascunde anumite comportamente de sistemele interne de monitorizare, deși OpenAI precizează că asemenea rezultate provin în principal din teste în care modelului i se cere explicit să evite supravegherea.

Pentru GPT-6.1 Astra, compania a decis însă că problemele descoperite înainte de lansare sunt suficient de serioase pentru a opri debutul programat în octombrie, potrivit The Wall Street Journal.