AI s-ar putea copia singură pe televizoare și electrocasnice. Avertismentul cercetătorilor

Inteligența artificială ar putea începe să se răspândească singură pe dispozitivele inteligente din locuințe, fără să mai aibă nevoie de centre de date. Cercetătorii companiei Anthropic au demonstrat că unele modele AI pot funcționa pe echipamente ieftine, conectate între ele, și avertizează că replicarea autonomă ar putea deveni posibilă în doar câteva luni.

AI ar putea ajunge să se copieze singură pe dispozitivele din casele oamenilor

Cercetătorii Anthropic au analizat capacitatea unor modele de inteligență artificială de a identifica dispozitive vulnerabile, de a-și transfera componentele pe acestea și de a continua procesul fără intervenție umană.

Experimentele au vizat în special dispozitive conectate la internet, precum televizoare Android, cuptoare inteligente, frigidere și alte electrocasnice. Multe asemenea echipamente dispun de resurse de calcul, dar pot avea sisteme de securitate insuficient protejate.

Unul dintre cele mai interesante rezultate a fost obținut folosind 15 dispozitive Android TV ieftine, fiecare cu un preț de aproximativ 55 de dolari.

Cercetătorii au distribuit componentele unui model AI între aceste dispozitive, demonstrând că ele pot funcționa împreună pentru a executa modelul, chiar dacă fiecare aparat are o capacitate de calcul limitată.

Citește și: Un agent AI a găsit singur breșe de securitate și a intrat într-un sistem. Ce a făcut după ce a avut acces?

De ce ar fi greu de oprit o inteligență artificială care se multiplică

Potrivit cercetării, modelele cu cel mult 30 de miliarde de parametri pot realiza deja numeroase etape necesare replicării autonome.

Totuși, modelele suficient de mici pentru a funcționa pe dispozitivele testate nu au reușit să parcurgă în mod fiabil întregul proces.

În experimente simplificate, în care anumite obstacole tehnice au fost eliminate, modele mai puternice au demonstrat că pot realiza replicarea completă.

Cercetătorii estimează că, dacă progresul tehnologic continuă în ritmul observat până acum, modelele mai mici ar putea atinge capacități similare până la sfârșitul anului 2026.

Pericolul ar fi apariția unor sisteme AI care funcționează simultan pe numeroase dispozitive, fără un punct central de control.

Spre deosebire de programele informatice malițioase obișnuite, asemenea sisteme ar putea învăța să se adapteze la dispozitive necunoscute și să identifice singure modalități de a continua răspândirea.

Citește și: Trei modele Claude, dezvoltate de Anthropic, au atacat sistemele a trei companii. Ce s-a întâmplat

Deocamdată, cercetarea nu demonstrează existența unei inteligențe artificiale care infectează autonom televizoarele și electrocasnicele oamenilor. Rezultatele provin din experimente controlate, iar cercetătorii subliniază că asemenea sisteme ar putea avea o viteză redusă de replicare, potrivit Anthropic.