Inteligența Artificială ne strică abilităţile? Primele studii au rezultate îngrijorătoare
Dependenţa de instrumentele bazate pe inteligenţă artificială reduce competenţele medicilor şi ale programatorilor, arată studiile citate de revista Nature.
Pe măsură ce tot mai mulţi profesionişti încep să se bazeze pe instrumente de inteligenţă artificială în activitatea lor, apare o întrebare importantă: îşi pot pierde treptat abilităţile dobândite în ani de muncă şi experienţă?
Această posibilitate reprezintă o preocupare tot mai mare pentru medici, informaticieni şi alţi specialişti. De exemplu, 70% dintre asistente şi 77% dintre medici se tem că îşi vor pierde competenţele din cauza dependenţei excesive de sistemele AI, potrivit unui sondaj realizat în rândul personalului medical din Statele Unite şi publicat în această lună.
Temerile lor ar putea fi justificate. Dovezile sugerează că fenomenul de ”dezvăţare” cauzat de inteligenţa artificială începe deja să apară în medicină, informatică şi alte domenii. Cercetătorii discută acum despre modalităţile prin care expertiza umană poate fi păstrată în era AI, scrie News.ro, citând Nature.
Inteligența Artificială ne strică abilităţile? Primele studii au rezultate îngrijorătoare
”Simplul fapt că ştim că acest fenomen există ar trebui să ne determine să reflectăm asupra abilităţilor pe care vrem să le păstrăm şi asupra celor pe care suntem dispuşi să le delegăm inteligenţei artificiale”, spune Kevin Crowston, specialist în ştiinţa informaţiei la Universitatea Syracuse din New York.
Un studiu realizat în Polonia pe medici specializaţi în endoscopie arată cât de repede pot fi afectate competenţele umane.
Medicii, care efectuaseră fiecare cel puţin 2.000 de colonoscopii de-a lungul carierei, au primit acces la un sistem AI care analizează imaginile în timp real şi semnalează adenoamele – leziuni intestinale care pot evolua spre cancer.
Sistemul era disponibil în anumite zile şi indisponibil în altele.
Citește și: Conflict Pentagon–Anthropic: disputa despre inteligența artificială militară duce la anularea contractului
După ce au început să-l folosească, performanţele medicilor au scăzut semnificativ atunci când instrumentul nu era disponibil. În cele trei luni dinaintea introducerii AI-ului, medicii identificau cel puţin un adenom în 28,4% dintre colonoscopii.
În cele trei luni de după introducerea sistemului, rata de detectare în procedurile efectuate fără ajutorul AI a scăzut la 22,4%.
Rezultatele, publicate anul trecut într-o revistă medicală de prestigiu, sugerează că şi profesioniştii foarte experimentaţi îşi pot pierde din competenţe atunci când devin dependenţi de instrumentele automate.
Autorii studiului afirmă că expunerea continuă la astfel de sisteme îi poate face pe medici ”mai puţin motivaţi, mai puţin concentraţi şi mai puţin responsabili” atunci când trebuie să ia decizii fără sprijinul inteligenţei artificiale.
Yuichi Mori, unul dintre autorii studiului, spune că sunt necesare cercetări suplimentare, dar avertizează că utilizatorii AI trebuie să fie conştienţi de acest risc.
”Nu există încă o soluţie consacrată împotriva pierderii competenţelor. Ar trebui să fie unul dintre cele mai importante subiecte de cercetare ale următorului deceniu”, afirmă el.
Pentru a analiza dacă fenomenul apare şi în programare, cercetătorii companiei Anthropic au realizat un experiment cu 52 de ingineri software.
Toţi participanţii au primit aceeaşi sarcină de programare şi au avut acces la internet şi documentaţie tehnică. Jumătate dintre ei au fost încurajaţi să folosească şi un asistent AI.
După finalizarea exerciţiului, toţi au susţinut un test pentru a evalua cât de multe au învăţat.
Rezultatele au fost surprinzătoare. Cei care au folosit AI au obţinut un scor mediu de 50%, comparativ cu 67% în grupul care nu a utilizat inteligenţă artificială.
Participanţii care au folosit AI au avut dificultăţi în special la întrebările care presupuneau identificarea şi diagnosticarea erorilor din cod. Acest lucru sugerează că au reuşit să producă un cod funcţional, dar nu au înţeles suficient conceptele din spatele lui.
Kevin Crowston consideră că rezultatele sunt îngrijorătoare mai ales pentru studenţi şi pentru profesioniştii aflaţi la început de carieră.
”Avem acum o situaţie ciudată în care performanţa şi învăţarea se separă. Oamenii pot obţine rezultate foarte bune deoarece împrumută competenţele AI-ului, însă nu şi le dezvoltă pe ale lor”, explică cercetătorul.
Alte tehnologii au făcut anumite abilităţi inutile şi în trecut. Sistemele GPS, de exemplu, au redus capacitatea oamenilor de a se orienta fără ajutor electronic.
Însă, potrivit cercetătorului Tapani Rinta-Kahila de la Universitatea Queensland din Australia, inteligenţa artificială generativă este prima tehnologie care automatizează procese cognitive complexe precum gândirea şi interpretarea informaţiilor.
Într-un studiu publicat în 2018, el a analizat contabili care utilizaseră timp de peste un deceniu un sistem automatizat de contabilitate. Când instrumentul a fost eliminat, mulţi dintre ei uitaseră cum să execute o serie de sarcini de rutină.
Cercetătorul se aşteaptă ca efecte similare să apară în numeroase profesii bazate pe cunoaştere.
”Generaţiile viitoare de programatori s-ar putea să nu mai înţeleagă foarte bine fundamentele programării dacă nu acumulează experienţă practică directă. Acelaşi lucru se poate întâmpla în contabilitate, drept şi multe alte profesii”, avertizează el.
Pentru a evita degradarea competenţelor, specialiştii recomandă utilizatorilor să fie conştienţi de cât de mult delegă către AI şi să înţeleagă limitele acestor sisteme.
De asemenea, ei avertizează că rezultatele oferite de inteligenţa artificială nu trebuie acceptate automat, fără verificare şi fără gândire critică.
”Oamenii trebuie să găsească un echilibru între utilizarea inteligenţei artificiale şi păstrarea vigilenţei intelectuale”, concluzionează Rinta-Kahila.
