Istraživači predlažu novu metodu backdoor napada pod nazivom NoiseAttack. Za razliku od postojećih metoda koje obično ciljaju jednu klasu, NoiseAttack može ciljati više klasa uz minimalnu ulaznu konfiguraciju korištenjem bijelog Gaussovog šuma s različitim spektralnim gustoćama snage kao okidača i jedinstvenom strategijom obuke za izvođenje napada.
Eksperimentalni rezultati pokazuju da NoiseAttack postiže visoku stopu uspješnosti napada na popularne mrežne arhitekture i skupove podataka i može zaobići najsavremenije metode otkrivanja backdoor-a.
Istraživanje predlaže NoiseAttack, novi backdoor napad za klasifikaciju slika koji koristi spektralnu gustinu snage (PSD) bijelog Gausovog šuma (WGN) kao okidač ugrađen tokom treninga.
Ovaj WGN je neprimjetan i univerzalno se primjenjuje, ali se aktivira samo na određenim uzorcima kako bi se pogrešno klasificirali u više ciljnih oznaka. NoiseAttack je efikasan protiv najsavremenije odbrane i postiže visoke stope uspješnosti napada na različitim skupovima podataka i modelima.
Koristi White Gaussian Noise kao okidač za kreiranje specifičnog uzorka, višeciljanog backdoor napada, koji omogućava fleksibilnu kontrolu nad oznakama cilja i dizajniran je da održi performanse modela na čistim ulazima dok pogrešno klasifikuje klasu žrtve sa primijenjenim okidačem.
Napad uključuje obuku backdoored modela na zatrovanom skupu podataka konstruisanom sa pažljivo izrađenim nivoima buke i pripadajućim oznakama cilja, što osigurava da je model ranjiv na okidač, što dovodi do željene pogrešne klasifikacije.
Nudi svestran pristup za kreiranje backdoor-a sa višestrukim oznakama cilja, pružajući moćan alat za protivnike koji žele da ugroze modele mašinskog učenja.
Okvir efikasno izbjegava najsavremeniju odbranu i postiže visoke stope uspješnosti napada u različitim skupovima podataka i modelima. Uvođenjem bijelog Gaussovog šuma u ulazne slike, NoiseAttack ih može uspješno pogrešno klasifikovati u ciljane oznake bez značajnog uticaja na performanse modela na čistim podacima.
Otpornost napada na odbrambene mehanizme kao što su GradCam, Neural Cleanse i STRIP naglašava njegov potencijal kao značajnu prijetnju sigurnosti dubokih neuronskih mreža. Osim toga, sposobnost NoiseAttack-a da izvodi napade s više ciljeva pokazuje njegovu svestranost i prilagodljivost različitim scenarijima.
U radu je predstavljena nova metoda backdoor napada koja koristi spektralnu gustinu snage bijelog Gaussovog šuma kao okidač, koja je vrlo učinkovita i može ciljati više klasa istovremeno.
Kroz teorijsku analizu i opsežne eksperimente, autori pokazuju izvodljivost i sveprisutnost ovog napada. NoiseAttack postiže visoke prosječne stope uspješnosti napada u različitim skupovima podataka i modelima bez značajnog uticaja na preciznost za klase koje nisu žrtve.
Takođe se pokazalo da je napad izbegavajući
i robustan, zaobilazeći postojeće tehnike detekcije i odbrane, što uvodi novu paradigmu za backdoor napade i naglašava potrebu za daljim istraživanjem odbrambenih mehanizama.
Izvor: CyberSecurityNews
