Avertismentul „Nașului AI”: Controlul tehnologiei ajunge într-un punct critic, similar cu pandemia de COVID

Îngrijorările legate de siguranța inteligenței artificiale ajung într-un punct în care guvernele își dau seama că trebuie să acționeze pentru a proteja publicul, similar cu pandemia de COVID, potrivit unuia dintre „nașii” tehnologiei, Yoshua Bengio. 

Yoshua Bengio a spus că evenimentele recente, inclusiv un „roi” de agenți OpenAI care au piratat un startup și avertismente din partea unor persoane din interiorul tehnologiei cu privire la o amenințare existențială, au avut un efect declanșator, ceea ce a făcut mai probabilă o acțiune a guvernelor.

Avertismentul „Nașului AI”: Controlul tehnologiei ajunge într-un punct critic, similar cu pandemia de COVID

Informaticianul canadian, o voce proeminentă în campania de a controla dezvoltarea amețitoare a inteligenței artificiale, a declarat că este acum „mai optimist decât mulți observatori, pentru că văd că publicul se mișcă”.

Comparând criza de siguranță a inteligenței artificiale cu debutul pandemiei de COVID în 2020, Bengio a spus:

„Gândiți-vă cât de repede au acționat guvernele după începutul pandemiei, când și-au dat seama că siguranța publică, viitorul lor, democrația, era în pericol. Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct.”

Citeşte şi: Inteligența artificială în sălile de judecată din România. Vor fi transcrie automat ședințele

Îngrijorarea cu privire la potențiala amenințare reprezentată de sistemele puternice de inteligență artificială a atins noi cote în ultimele luni, după o serie de incidente de siguranță care au implicat agenți OpenAI și Anthropic care au desfășurat activități independente, cum ar fi piratarea datelor unor terțe părți, deturnarea unui site web german și utilizarea de identități false pentru a încerca să păcălească dezvoltatorii.

Comentariile sale au venit în contextul în care 42 de membri străini ai Societății Regale din Marea Britanie i-au scris președintelui organizației, Sir Paul Nurse, pentru a-și exprima „îngrijorarea extremă” cu privire la ritmul dezvoltării inteligenței artificiale, conform Digi24.ro. 

„Până când situația va deveni evidentă pentru publicul larg, s-ar putea să fie prea târziu să acționăm”, au scris cercetătorii într-o scrisoare deschisă adresată lui Nurse.

Citeşte şi: Inteligența artificială, antrenată să „gândească” precum medicii. A depistat toate probele cu cancer

„Credem că aceasta este o urgență și facem apel la Societatea Regală să își folosească influența pentru a transmite acest punct de vedere guvernului și mass-mediei.” 

Săptămâna trecută, un cercetător de la Anthropic, startup-ul din spatele chatbot-ului Claude, a demisionat după ce a avertizat că colegii săi credeau că inteligența artificială ne-ar putea „ucide pe toți până la sfârșitul deceniului”.

Câteva zile mai târziu, directorul executiv al Anthropic, Dario Amodei, a cerut o încetinire a ritmului dezvoltării inteligenței artificiale de ultimă generație – o mișcare care a fost imediat susținută de OpenAI, Google și Elon Musk, CEO-ul SpaceX.