Expert: Tehnologia AI poate ataca guverne sau rețele de internet banking. Îți poate da rețeta bombei cu napalm
Scenariile despre Inteligența Artificială (AI) vorbesc adesea despre sisteme care devin mai inteligente și scapă de sub control. Recent, OpenAI a dezvăluit noi incidente îngrijorătoare legate de modelele sale. Un expert a explicat pentru Newsweek de unde vine pericolul AI.
OpenAI a dezvăluit șase noi incidente în care modelele sale de inteligență artificială s-au comportat în moduri îngrijorătoare. Compania, care dezvoltă și ChatGPT, a declarat, de asemenea, că a dezvoltat un nou cadru pentru urmărirea, detectarea și dezvăluirea problemelor de aliniere pentru modelele sale.
Asaltul tehnologiilor AI. Expert: Pot ataca sistemele guvernelor, utilitățile sau rețelele de internet banking
Unul dintre cele mai faimoase exemple în acest sens este așa-numitul incident Hugging Face, în care modelele OpenAI au reușit să scape din mediul lor de testare și să pirateze un site web popular. Majoritatea eșecurilor de coordonare nu au consecințe atât de grave, dar necesită totuși o investigație amănunțită, deoarece pot cauza probleme mai mari în viitor.
Citește și: O văduvă dă în judecată OpenAI pentru moartea soțului său într-un atac armat. Ce a făcut ChatGPT?
Conform OpenAI, pe măsură ce sistemele de inteligență artificială evoluează, cercetarea coordonării devine din ce în ce mai importantă. „Nu credem că industria inteligenței artificiale a atins un nivel de coordonare și monitorizare care ar fi suficient pentru a continua dezvoltarea în mod responsabil și la viteză maximă pentru o lungă perioadă de timp de acum înainte”, a scris, recent, reprezentantul companiei într-un comunicat.
Ca replică, JD Vance, vicepreședintele SUA, a respins apelurile la reglementarea globală a riscurilor de siguranță legate de inteligența artificială. „Dacă tot ce vrei să faci este să-l creezi pe Frankenstein, nu veni la guvern să spui că avem nevoie de reglementare”.
Citește și: Roboții umanoizi alimentați de inteligența artificială au devenit cerșetori. Cer bani trecătorilor pe stradă
El a afirmat că șefii din domeniul tehnologiei ar trebui, în schimb, să „privească în sinea lor și să accepte că, dacă-l construiești pe Frankenstein, numărul 1, ar trebui să te oprești, iar numărul 2, atunci când companiile vin la tine și spun: «Avem nevoie de instrumentele pentru a lupta împotriva lui Frankenstein», dă-le aceste instrumente.”
Avocatul Alexandru Silviu Goga, doctorand în industrie și management cu focus pe AI la Universitatea Transilvania Brașov, e explicat de unde vin pericolele în cazul acestei tehnologii. „Modelele top, de frontiera, pot naviga deja singure în internet. Asta nu e tot. Nici nu știm exact ce pot face și chiar creatorii lor încep să nu mai știe.
Mai departe, ele pot ataca sistemele guvernelor, autorităților de furnizare utilități și alte asemenea. Pot instrumenta atacuri cibernetice și paraliza platforme online.
Pot duplica și replica comportamentul și vocea umana chiar și imaginea. Cu ceva iscusință pot sparge parole clasice inclusiv internet banking. Pot lua decizii ultra rapide.
Daca cunoști ce să ceri pot face rețeta unei bombe cu napalm sau a unui reactor nuclear. Ceri bucățică cu bucățică. Pot pune în pericol concret întreagă omenire mai ales că după lansări oficiale de la OpenAI sau Anthropic, China copiază cu ușurință orice model și îl da open source, gratis, pe piață. Haosul în societate nu e doar pe planul resursei umane.
Ne vom întreba ce vor face oamenii care rămân fară joburi. Apoi, vom avea de-a face cu denaturarea omenirii așa cum o știm. Război inteligent, piețe financiare dezechilibrate conduse de AI, pierderea suveranității deciziilor. Orice! Și nu sunt prăpăstios”, a precizat avocatul.
Investiții imense
Alexandru Silviu Goga a explicat și de ce dezvoltatorii de AI au ajuns într-un punct de cotitură. „Ei, producătorii vor o încetinire pentru că nu pot livra investitorilor ce au promis. Ce plătim concret? Un abonament de 100/200 dolari are în spate un cost de 20.000 dolari, de fapt. Consum de energie, resurse și poluare.
Posibil ca nota de plată să vina că în filmele distopice tip Matrix sau Terminator. Ultima teama este că afectează psihicul uman și relațiile. Oamenii se verifică constant cu AI. Programatorii, șoferii de taxi și TIR, contabili, oricine…”, a precizat expertul.
