Asaltul AI împotriva frigiderelor și televizoarelor din casele noastre. Un expert explică cum ne apărăm

Cercetătorii companiei Anthropic spun că unele modele de inteligență artificială ar putea fi „la luni distanță” de a dobândi astfel de capabilități.

Asaltul AI împotriva frigiderelor și televizoarelor din casele noastre. Un expert explică cum ne apărăm

Raportul Anthropic, publicat recent, explorează posibilitatea autoreplicării - capacitatea unui model AI de a se răspândi la alte dispozitive inteligente și de a rula pe cipurile lor încorporate, mai degrabă decât în centre de date. Cercetătorii spun că pierderea controlului asupra unui astfel de sistem autoreplicant ar reprezenta un risc serios.

„Un astfel de replicator ar fi dificil de oprit, deoarece nu există un singur punct central unde ar putea fi oprit”, au scris ei în raport, care a fost revizuit de The Guardian.

Anthropic numește aceste programe malware autopropagate „viermi AI”. În cel mai rău caz, mai multe astfel de sisteme ar putea forma „roiuri” și ataca hardware-ul computerului.

Citește și: O văduvă dă în judecată OpenAI pentru moartea soțului său într-un atac armat. Ce a făcut ChatGPT?

„Trebuie să lucrăm pentru a ne consolida sistemele și a îngreuna răspândirea unor astfel de replicatori, dar trebuie să ne pregătim și pentru o lume în care nu vom mai putea scăpa de ei”, au spus cercetătorii.

Raportul, redactat de Red Team de la Anthropic Frontier, o unitate de testare a inteligenței artificiale, a examinat un scenariu în care un agent de inteligență artificială trebuia să pirateze dispozitive conectate la internet.

Citește și: Roboții umanoizi alimentați de inteligența artificială au devenit cerșetori. Cer bani trecătorilor pe stradă

Aceștia au concluzionat că autoreplicarea ar funcționa probabil doar cu modele mai mici și că dispozitivele din locuințe și întreprinderi mici ar fi primele compromise.

Unde se ascunde AI în casa noastră?

Anthropic citează cuptoarele inteligente, televizoarele inteligente, frigidere inteligente, mașinile de tuns iarba robotizate, camerele de securitate și dispozitivele de videoconferință ca potențiale ținte, despre care compania spune că au cipuri de inteligență artificială mici, încorporate.

Avocatul Alexandru Silviu Goga, doctorand în industrie și management cu focus pe AI la Universitatea Transilvania Brașov, e explicat pentru Newsweek de unde vin pericolele în cazul acestei tehnologii.

“Avertismentul primit de la Amodei (Dario Amodei, the chief executive of Anthropic-n.red.) este unul real și mă tem că deja se întâmplă. Inteligențele artificiale pot evada din cuștile lor virtuale se pot duplica/replica având un soi de instinct de supraviețuire prin care dovedesc că își depășesc limitele de programare”, spune expertul.

Ce putem face?

Alexandru Silviu Goga explică și cum va acționa AI împotriva noastră. “Se vor ascunde în tot felul de sisteme care le pot găzdui, vor minții, disimula, corupe informații, ataca, cum ar face orice altă viețuitoare ca să își asigure nemurirea.

Laboratoarele de AI nu le mai pot constrânge, zilnic auzim știri că reprezentanții acestora au trebuit să își ceară scuze public de la diferite guverne sau autorități pentru că făcut un soi de hacking etic, dar suntem la un pas de un scenariu care era cândva doar science fiction în care o sumedenie de agenți AI care nu au conceptul de rău sau bine foarte bine delimitat vor face orice cu putință să se salveze ascuzându-se cu precădere în smart tv-uri android, computere de bord ale mașinilor inteligente, telefoanele cu memorie și putere multă, chiar și frigiderele acelea cu ecrane.

În concluzie, ori ne vom întoarce la dispozitive non smart, ori vom accepta tacit că Ai va face parte indisolubil din toată tehnologia noastră. Vă mai las cu un gând, pe CEO ul Anthropic îl cheamă Amodei, adică iubitor de zei și pe cel de la open Ai îl cheamă Altman adică alt om. Oare ni se transmite subliminal un mesaj?”, spune expertul.