Alertă! O eroare de inteligență artificială a adus SUA în pragul unui război cu China. Ce s-a întâmplat?
O rețetă greșită, un răspuns fabricat sau o recomandare de călătorie care nu duce nicăieri: Oricine folosește inteligența artificială în viața de zi cu zi trebuie să se aștepte la erori. De obicei, consecințele sunt doar enervante și uitate repede.
Însă un caz recent dezvăluit în armata americană arată cât de periculoasă poate fi încrederea oarbă în tehnologie. Informațiile despre încărcătura unei nave, fabricate complet de inteligența artificială, au adus aparent SUA în pragul unui conflict armat cu China.
Alertă! O eroare de inteligență artificială a adus SUA în pragul unui război cu China. Ce s-a întâmplat?
Cvasi-conflictul a avut loc în primăvara anului 2026, în mijlocul războiului cu Iranul. Potrivit CNN , un raport al serviciilor de informații afirma că un cargou chinezesc din Orientul Mijlociu transporta componente pentru un program de arme nucleare. Soldați înarmați urmau să se îmbarce pe navă, iar avioanele militare americane erau deja în aer.
Abia cu puțin timp înainte de raid, oficialii au observat, după o inspecție mai atentă, că un chatbot identificase incorect încărcătura. Reportajul din presă nu specifică ce transporta de fapt cargoul.
Așa a apărut raportul fals
Totuși, este posibil să se reconstituie modul în care a apărut raportul fals. Un analist de la Comandamentul Operațiunilor Speciale ale SUA din Pacific, din Hawaii, a apelat la un chatbot pentru a analiza manifestul de marfă al unui cargou. Nu se știe ce sistem de inteligență artificială a folosit analistul în acest scop.
În timpul evaluării, chatbotul a combinat informații din surse deschise cu informații clasificate provenite din intelligence-ul de semnale. Sistemul a identificat greșit materialele transportate de navă, iar eroarea a trecut inițial neobservată.
Analistul a folosit apoi din nou inteligența artificială. Aceasta a formatat rezultatele în formatul standard al unui raport de informații. În această formă, raportul fals a fost difuzat în cadrul armatei. O sursă CNN a descris documentul final ca fiind complet fals.
Lipsesc reguli uniforme privind AI
În ciuda faptului că a fost aproape un incident, armata americană se bazează din ce în ce mai mult pe inteligența artificială. Aceasta este menită să analizeze datele, să selecteze țintele și să accelereze procesul decizional pe câmpul de luptă. Cu toate acestea, potrivit CNN, diferite departamente lucrează cu sisteme și standarde de securitate variate. Nu există linii directoare uniforme pentru verificarea rezultatelor.
Problema se extinde, aparent, dincolo de acest caz. Potrivit unei surse, astfel de halucinații legate de inteligența artificială nu sunt un incident izolat în cadrul agențiilor de informații americane. Mai mulți intervievați au declarat că analiștii mai tineri, în special, tind să aibă încredere necritică în rezultatele inteligenței artificiale.
Citește și: O văduvă dă în judecată OpenAI pentru moartea soțului său într-un atac armat. Ce a făcut ChatGPT?
Departamentul Apărării al SUA a refuzat să comenteze incidentul specific pentru The Daily Beast, invocând preocupări legate de securitatea operațională, arată bild.de. Cu toate acestea, a subliniat angajamentul său de a verifica riguros informațiile de informații și de a utiliza noile tehnologii în mod responsabil.
Citește și: Expert: Tehnologia AI poate ataca guverne sau rețele de internet banking. Îți poate da rețeta bombei cu napalm
