Cămașa care păcălește sistemele de recunoaștere bazate pe inteligența artificială. Secretul stă în designul ei
Cămașa care păcălește sistemele de recunoaștere bazate pe inteligența artificială a fost creată de un designer german. Ea permite persoanei care o poartă să nu fie detectată ca ființă umană de camerele CCTV, scăpând astfel controlului vizual al acestora.
Un designer german a creat ceea ce ar putea fi, la prima vedere, una dintre cele mai urâte cămăși hawaiiene din lume.
Numai că imprimeul ei colorat și aparent fără nicio logică ascunde un scop cât se poate de serios: să facă purtătorul invizibil pentru camerele de supraveghere dotate cu inteligență artificială.
Cămașa, botezată „Camuflaj Digital”
Designerul german Simon Weckert și-a botezat creația „Digital Camouflage” („Camuflaj digital”).
Deși arată ca o cămașă hawaiiană cu un imprimeu psihedelic, aproape hipnotic, modelul a fost conceput special pentru a împiedica sistemele AI să identifice persoana care o poartă.
Ideea pornește de la modul în care inteligența artificială „vede” oamenii. Spre deosebire de un om, care recunoaște instantaneu o persoană, un sistem AI nu știe în mod propriu-zis ce este un om.
El a fost antrenat să recunoască anumite tipare vizuale pe baza unor cantități uriașe de imagini.
„Sistemele AI sunt alcătuite din mai multe straturi și nu au învățat niciodată ce este un om – au învățat cum arată oamenii din punct de vedere statistic, analizând milioane de imagini folosite la antrenare”, a explicat Weckert, conform Dezeen Magazine.
„În primele straturi sunt analizate marginile, contrastele și gradientele de textură.
În straturile mai profunde ale rețelei apar tipare asociate cu anumite părți ale corpului: silueta capului și a umerilor, proporțiile membrelor în raport cu trunchiul și continuitatea conturului corpului în raport cu fundalul.
Pentru mașină, o «persoană» este un ansamblu de statistici vizuale – iar exact aici se află punctul ei slab”, a consinuat designerul.
Imprimeul cămășii Digital Camouflage a fost proiectat astfel încât să deruteze sistemele de recunoaștere bazate pe inteligență artificială și să le împiedice să identifice purtătorul drept ființă umană.
Ironia este că modelul cămășii a fost creat chiar cu ajutorul inteligenței artificiale.
AI nu identifică purtătorul cămășii drept persoană
Weckert a folosit un proces numit „buclă adversarială”, în care designul este testat în mod repetat împotriva sistemului de detecție pe care încearcă să-l păcălească.
„Modelul a fost dezvoltat într-o buclă adversarială împreună cu sistemul de detecție însuși: generezi un candidat, îl prezinți detectorului, măsori cât de sigur este acesta că încă identifică persoana, îl ajustezi și repeți procesul – până când nivelul de încredere se prăbușește”, a declarat Weckert.
Potrivit designerului, procesul este necesar deoarece punctele slabe ale unui sistem AI nu sunt deloc evidente pentru oameni.
Citește și: Ce se întâmplă cu oamenii care vorbesc prea mult cu inteligența artificială? Avertismentul cercetătorilor
„Nu poți concepe ceva împotriva modului în care percepe mașina doar uitându-te la el – numai mașina îți poate spune ce nu reușește să vadă.
Există aici o simetrie poetică: aceeași categorie de AI care supraveghează piața l-a învățat pe acest obiect vestimentar cum să se ascundă”, a spus Weckert.
Efectul este cu atât mai interesant cu cât imprimeul cămășii produce exact efectul opus asupra oamenilor.
Pentru un observator uman, modelul extrem de colorat și aproape hipnotic face purtătorul să iasă imediat în evidență. Este genul de cămașă care atrage privirile de la distanță.
Pentru sistemele AI testate de Weckert, însă, situația este complet diferită.
Citește și: Zece profesii amenințate de inteligența artificială. Meseriile care ar putea fi înlocuite de AI
În loc să identifice o persoană, sistemele ajung să nu „vadă” practic nimic relevant – și, mai ales, nu reușesc să recunoască în imagine existența unei persoane.
Astfel, ceea ce pare a fi doar o cămașă hawaiiană teribil de kitsch se transformă într-un experiment ingenios despre limitele inteligenței artificiale și despre posibilitatea de a folosi propriile mecanisme ale sistemelor de supraveghere împotriva lor.
