Inteligența Artificială ar putea avea un sfârșit mult mai banal decât ne imaginăm. „Marea dezamăgire”
Scenariile despre Inteligența Artificială vorbesc adesea despre sisteme care devin mai inteligente decât oamenii și scapă de sub control. Un fizician susține însă că un deznodământ mult mai banal este posibil: AI să devină prea scumpă și insuficient de utilă pentru a justifica ac
Inteligența Artificială s-ar putea să nu ajungă să cucerească omenirea și nici să declanșeze războiul cu oamenii imaginat în filme. Unul dintre riscurile importante ar putea fi mult mai puțin spectaculos: să investim prea mult și prea repede într-o tehnologie care nu reușește să ofere ceea ce s-a promis.
Aceasta este teza susținută de fizicianul Andrew Rogoyski într-un articol de opinie publicat de Live Science.
Citește și: Companiile românești, corigente la Inteligența Artificială. Doar 5% o folosesc eficient. Media UE, 20%
Inteligența Artificială ar putea avea un sfârșit mult mai banal decât ne imaginăm. „Marea dezamăgire”
Rogoyski nu susține că Inteligența Artificială este lipsită de riscuri. Dimpotrivă, consideră că unele dintre pericolele apropiate sunt trecute în plan secund tocmai pentru că atenția este concentrată asupra scenariilor extreme, în care apare o superinteligență capabilă să-i depășească și să-i controleze pe oameni.
În opinia sa, un rezultat mult mai banal al actualei curse pentru AI ar putea fi ceea ce numește „marea dezamăgire”: sistemele avansate să se dovedească prea scumpe și insuficient de utile pentru ca dezvoltarea lor în ritmul actual să mai fie justificată.
Modelele AI de frontieră necesită cantități foarte mari de putere de calcul, energie electrică, apă, hardware, capital și muncă umană. Dacă aceste costuri nu scad considerabil, Rogoyski consideră că economia din spatele sistemelor AI de mari dimensiuni s-ar putea dovedi nesustenabilă.
În același timp, probleme importante precum fiabilitatea, interpretabilitatea și învățarea continuă nu sunt încă rezolvate, în timp ce companiile concurează pentru construirea unor modele tot mai performante.
Companiile ar putea concedia oameni înainte ca AI să-i poată înlocui
Problema nu ține însă numai de costurile tehnologiei.
Unul dintre riscurile economice identificate de Rogoyski este ca firmele să renunțe la angajați înainte ca sistemele AI să fi demonstrat că le pot prelua munca în mod fiabil.
Directorii impresionați de demonstrațiile noilor modele ar putea confunda capacitatea acestora de a produce răspunsuri și texte convingătoare cu capacitatea de a presta constant o muncă de încredere. Companiile ar putea astfel pierde experiența și cunoștințele acumulate de angajați în încercarea de a obține prea devreme economiile promise de AI.
Rogoyski privește cu scepticism și ideea unei companii de un miliard de dolari construite de o singură persoană sau de o echipă foarte mică, în care AI îndeplinește mare parte din rolurile ocupate astăzi de angajați.
O organizație nu este doar o colecție de sarcini, argumentează el. În interiorul acesteia există responsabilitate, relații între oameni, cunoștințe dobândite prin experiență și încredere – elemente care nu pot fi reduse pur și simplu la activități automatizabile.
Un incident major ar putea declanșa o reacție împotriva AI
Un alt pericol apropiat indicat în analiză este cel al atacurilor cibernetice amplificate de AI.
Spitale, bănci, rețele energetice, companii logistice și instituții publice depind de sisteme digitale interconectate. Folosirea AI în atacuri asupra unei asemenea infrastructuri ar putea provoca pagube financiare foarte mari fără să fie nevoie de vreun scenariu în care Inteligența Artificială „preia controlul” asupra lumii.
Rogoyski avansează scenariul unui atac cibernetic de amploare care ar putea bloca servicii, provoca procese și falimente și determina investitorii să se retragă. Guvernele ar putea răspunde prin restricții sau prin obligarea laboratoarelor să acorde mai multe resurse controlului și siguranței sistemelor.
Consecința ar putea fi o nouă „iarnă AI” – o perioadă în care finanțarea scade, iar cercetarea și dezvoltarea încetinesc, așa cum s-a întâmplat în alte etape din istoria Inteligenței Artificiale. Acesta este un scenariu formulat de Rogoyski, nu o predicție demonstrată.
Unde ar putea fi AI cu adevărat utilă
Paradoxal, Rogoyski consideră că unele dintre cele mai valoroase aplicații ale Inteligenței Artificiale ar putea fi sistemele specializate, nu neapărat chatboții care încearcă să reproducă o gamă cât mai largă de abilități umane.
El dă drept exemple sisteme precum AlphaFold2, utilizat pentru predicția structurilor proteinelor, și WeatherNext 3, destinat prognozei meteorologice. În asemenea domenii, performanța poate fi măsurată, iar beneficiile pot justifica mai ușor costurile.
Descoperirea de medicamente, diagnosticul medical, cercetarea materialelor, optimizarea rețelelor energetice și modelarea schimbărilor climatice sunt alte domenii în care Rogoyski vede utilizări solide pentru AI.
Iar aici apare paradoxul final al analizei sale: dacă oamenii investesc masiv în sisteme care nu se ridică la nivelul promisiunilor, dezamăgirea și teama ar putea provoca o reacție atât de puternică împotriva AI încât să fie încetinite tocmai cercetările care ar putea produce cele mai importante beneficii.
