Inteligența artificială, risc major pentru justiție. Cum a inventat probe în procesul a doi români din Anglia
Inteligența artificială pune în pericol justiția. Acesta e avertismentul unui judecător britanic după ce AI a inventat două precedente juridice inexistente, în procesul de extrădare a doi români din Marea Britanie, în România.
Folosirea inteligenței artificiale în pregătirea proceselor implică riscuri majore pentru justiție, a avertizat un judecător britanic.
Avertismentul a fost dat după ce după ce Serviciul de Procuratură al Coroanei (CPS) a depus în instanță documente care făceau referire la cauze judiciare complet inexistente, în procesul de extrădare a doi români.
Inteligența artificială a inventat două precedente juridice pentru procuratură
Judecătorul a semnalat această gravă eroare într-o hotărâre prin care a respins recursurile formulate de două persoane de naționalitate română.
Acestea contestau extrădarea lor în România, unde trebuie să execute pedepse cu închisoarea. CPS s-a opus acestor recursuri în fața Înaltei Curți, conform LBC.
La finalul deciziei sale, judecătorul Sweeting a subliniat că două dintre precedentele juridice invocate inițial de procurori într-un document de la dosar nu existau în realitate.
Citește și: Inteligența artificială schimbă planurile de pensie! O nouă tendință șochează angajații peste 50 de ani
Aceste cazuri fictive au fost preluate ulterior și într-un al doilea act oficial, înainte ca anomalia să fie sesizată și raportată către CPS înaintea unei ședințe de judecată.
Instituția publică a recunoscut oficial eroarea și a prezentat scuze instanței, dând asigurări că nu a existat nicio intenție de a induce în eroare magistrații și că a demarat o anchetă internă.
CPS a admis că trimiterile juridice erau inexacte și a explicat că anomalia a survenit, cel mai probabil, în urma utilizării inteligenței artificiale generative.
„Dovezile” AI nu au fost verificate de factorul uman, înainte de judecată
Cu toate acestea, instituția a identificat o culpă critică în faptul că procurorul responsabil de caz nu a verificat corespunzător acuratețea textului înainte de depunerea și comunicarea lui oficială.
Citește și: Pe o stradă din San Francisco a fost deschis primul magazin condus de inteligența artificială
Conform judecătorului, deși sursa inițială a erorii a fost tehnologia, cauza principală a rămas tot eroarea umană, definită prin lipsa de verificare a surselor.
O revizuire internă extinsă asupra altor 78 de dosare gestionate de același procuror nu a indicat probleme similare, fapt ce arată un risc scăzut de repetare.
Deoarece erorile au fost descoperite înainte de audieri, ele nu au influențat argumentele sau decizia finală.
Citește și: Inteligența Artificială, interzisă pe Wikipedia. Ce este problema „halucinaţiilor” AI?
Judecătorul Sweeting a acceptat scuzele CPS, concluzionând că incidentul demonstrează clar riscurile utilizării AI fără o supraveghere strictă în cercetarea juridică.
