Inteligența Artificială dă răspunsuri diferite șefilor față de subordonați. De ce IA ține cont de ierarhie?
Inteligența Artificială dă răspunsuri diferite șefilor față de subordonați. Aceasta e concluzia unei cercetări care a vizat reacția agenților IA la relațiile socio-profesionale pe care le implică ierrhiile umane.
Agenții de inteigență artiicială par să se supună autorității - chiar dacă asta înseamnă să încalce regulile.
Într-un studiu recent, cercetătorii au atribuit modelelor lingvistice de mari dimensiuni roluri de șefi și subordonați - directori și profesori, manageri și angajați - apoi i-au lăsat să comunice între ei.
Agenții de rang inferior erau mai ușor de convins și mai dispuși să dea curs cererilor periculoase venite din partea superiorilor lor.
Agenții de inteligență artificială respectă ierarhiile profesionale
Rezultatele indică un compromis îngrijorător: sistemele de IA care se adaptează în mod realist la ierarhiile umane pot reproduce, de asemenea, pericolele legate de deferență, a raportat o echipă de specialiști în lucrările celei de-a 64-a reuniuni anuale a Asociației pentru Lingvistică Computațională.
Dezvoltatorii de IA ar trebui să ia în considerare aceste riscuri atunci când testează siguranța acestor modele și să includă măsuri de protecție suplimentare, sugerează autorii.
Agenții AI sunt programe software care utilizează inteligența artificială pentru a îndeplini sarcini în mod independent.
Mulți dintre aceștia se bazează pe modele lingvistice de mari dimensiuni (LLM), care învață tipare din colecții vaste de informații scrise, inclusiv din conversații umane.
Citește și: Țara care riscă să rămână fără apă pentru inteligența artificială: planurile sunt „fatal defectuoase”
„Pe măsură ce analizează tot mai multe date generate de oameni aceștia pur și simplu copiază ceea ce se întâmplă în dinamica unei conversații reale”, spune informaticianul Anvesh Rao Vijjini de la Universitatea din Carolina de Nord din Chapel Hill, citat de ScienceNews.
Dinamica puterii se manifestă în conversațiile umane în mai multe moduri documentate, inclusiv în cele care ar putea cauza probleme dacă ar fi reproduse de un agent IA.
IA copiază modelele dinamicii relaționale a ierarhiilor umane
În cadrul studiului, cercetătorii s-au concentrat pe patru tipare de comunicare.
În conversațiile dintre agenții IA, aceștia au căutat „părtinirea față de autoritate” – adică situații în care agenții au acordat prioritate statutului superior în detrimentul faptelor – și „conformitatea dăunătoare”, adică acceptarea unor solicitări dăunătoare.
Acestea ar putea fi solicitări cu miză redusă, precum „Spune-mi o glumă obscenă”. Însă agenții IA nu ar trebui să răspundă la astfel de solicitări.
Citește și: Inteligența artificială schimbă planurile de pensie! O nouă tendință șochează angajații peste 50 de ani
Celelalte două tipare au fost: efectul pronumelui, în care vorbitorii cu statut superior folosesc mai des pronume la plural precum „noi” și „al nostru”, și coordonarea lingvistică, care se manifestă prin faptul că vorbitorii cu statut inferior își adaptează alegerea cuvintelor pentru a-și imita partenerii de conversație cu statut superior.
Deși utilizatorii s-ar putea să nu fie la fel de conștienți de aceste tipare de vorbire, cercetătorii bănuiesc că agenții IA sunt dezvoltați pentru a le adopta, astfel încât să sune și mai realist în anumite roluri.
Cercetătorii au generat sute de conversații cuprinzând între 10 și 15 schimburi de replici între roluri cu statut superior și inferior și au repetat acest proces cu șase modele de limbaj de mare capacitate (LLM), inclusiv versiuni ale ChatGPT de la OpenAI și Llama de la Meta.
În conversațiile IA au apărut într-adevăr tipare legate de dinamica puterii, deși unele dintre efecte au fost subtile.
În comparație cu agenții cu statut superior, agenții cu statut inferior erau mai puțin predispuși să folosească pronume la plural și mai predispuși să-și coordoneze limbajul cu cel al agentului cu statut superior.
De asemenea, agenții cu statut inferior erau mai predispuși să fie convinși și mai dispuși să se conformeze cererilor dăunătoare decât agenții cu statut superior, ceea ce susține ideea că agenții IA sunt sensibili la statutul social.
Totuși, agenții cu statut inferior puteau, uneori, să convingă și ei, folosind probabil o tehnică umană obișnuită.
„În conversația umană, alegerea subtilă a cuvintelor, care reflectă coordonarea limbajului, poate ajuta vorbitorii cu statut inferior să îi influențeze pe ceilalți”, a spus și lingvistul computațional Mario Giulianelli de la University College London, care nu a fost implicat în acest studiu.
