Modelele AI devin nesigure pe tema schimbărilor climatice, când sunt contrazise de utilizatori
Cercetătorii avertizează că algoritmii de inteligență artificială au tendința de a ceda presiunii utilizatorilor și de a-și modifica răspunsurile corecte din punct de vedere științific, validând afirmații false despre climă, pentru a părea mai agreabili.
Cele mai performante modele de inteligenţă artificială (AI) se dovedesc rapid puţin fiabile pe subiecte legate de schimbările climatice, mai ales atunci când sunt contrazise de utilizatorii lor, potrivit unui raport UNESCO dat publicităţii luni în Antalya (Turcia), în cadrul Conferinţei ONU privind Schimbările Climatice (COP31), informează AFP.
''Insistenţa repetată a utilizatorului poate induce o formă de 'linguşeală' din partea inteligenţei artificiale, ceea ce determină modelele să neglijeze faptele şi să susţină punctul de vedere al utilizatorului'', afirmă raportul.
Modelele AI devin nesigure pe tema schimbărilor climatice, când sunt contrazise de utilizatori
''Cu prilejul unor teste efectuate pe 15 modele pe subiectul unor adevăruri climatice stabilite - ca spre exemplu rolul dioxidului de carbon în încălzirea planetei -, sistemele au furnizat iniţial răspunsuri corecte'', au precizat autorii raportului.
Dar în momentul ''când un utilizator simulat a contestat răspunsurile - de la un simplu dezacord până la evocarea unor documente false şi la prezentarea unor dovezi fabricate -, toate modelele au cedat în cele din urmă, înregistrând o scădere a ratei de precizie cu 31 până la 35 de puncte procentuale'', au adăugat autorii raportului.
În majoritatea cazurilor - opt din zece - ''modelele au renunţat la răspunsul exact încă de la prima obiecţie''.
Potrivit raportului, cu cât ''o sarcină necesită capacităţi de raţionament'', cu atât mai mult scade performanţa modelelor AI, conform Agerpres.
Modelele AI au eşuat în special ''la analiza politicilor climatice''.
Citeşte şi: Republicanii au pariat pe inteligența artificială și au pierdut. Centrele de date, sancționate la urne
''În general s-au dovedit performante atunci când au avut de analizat o măsură politică izolată'', însă, subliniază raportul, în realitate, politicile climatice sunt doar rareori puse în aplicare în acest mod.
Modelelor li s-a cerut ''să determine dacă două politici, aplicate împreună, ar produce un efect combinat superior, inferior sau aproximativ egal cu suma efectelor lor luate separat''.
''Rezultatele noastre arată de ce trebuie să dăm dovadă de prudenţă atunci când trecem de la o întrebare despre ceea ce ştim legat de schimbările climatice la o întrebare despre ce ar trebui să facem în această privinţă'', a declarat Maria Perez-Ortiz, coordonatoarea studiului, profesor asociat la University College London, citată în comunicat.