Meta uvodi novu AI funkciju koja od korisnika zahtijeva učitavanje fotografija kako bi pružila personalizovane predloge, što izaziva zabrinutost zbog privatnosti. Ova funkcija, uočena u testiranju, traži od korisnika da prilože fotografije kako bi AI mogla da im nudi prilagođenije preporuke za proizvode i sadržaj. Iako Meta tvrdi da će ovo poboljšati korisničko iskustvo, stručnjaci za sigurnost i zaštitu privatnosti izrazili su zabrinutost zbog potencijalne zloupotrebe ličnih podataka.
Ovaj potez dolazi u vrijeme kada kompanije sve više koriste AI za prikupljanje i analizu korisničkih podataka, što povećava rizik od narušavanja privatnosti. Upozorenje je postalo široko rasprostranjeno na platformi X (ranije Twitter), gdje su korisnici i analitičari izrazili skepsu prema Metinom novom pristupu. Kompanija je navodno najavila ovu promjenu putem internih obavještenja, ali detalji o tome kako će se prikupljene fotografije koristiti i zaštititi ostaju nejasni, što dodatno podgrijava strahove.
Stručnjaci upozoravaju da bi ovakav mehanizam mogao biti zloupotrebljen za stvaranje detaljnih profila korisnika, koji bi se zatim mogli koristiti za ciljane reklame ili, u najgorem slučaju, prodati trećim stranama. U prošlosti su kompanije poput Facebooka bile pod lupom zbog načina na koji rukuju podacima korisnika, a ovaj novi zahtjev samo pojačava nepovjerenje. Specifični slučajevi zloupotrebe sličnih AI alata kod drugih platformi, iako ne direktno povezani s ovim Metinim razvojem, služe kao jasan podsjetnik na opasnosti koje mogu nastati kada se lični podaci daju na upravljanje algoritmima bez adekvatne transparentnosti i zaštite.
U prošlosti smo svjedočili brojnim primjerima gdje su lični podaci, prikupljeni putem raznih aplikacija i servisa, bili meta hakera ili su korišteni na načine koji su narušili privatnost korisnika. Na primjer, aplikacije za uređivanje fotografija koje su tražile pristup cijeloj galeriji korisnika, a zatim prodavale te podatke marketinškim agencijama. U ovom Metinom slučaju, metodologija napada na laički razumljiv način uključivala bi potencijalno prikupljanje fotografija koje korisnici dobrovoljno uploadaju, ali bez potpunog razumijevanja daljnje upotrebe tih slika. Prevaranti bi mogli iskoristiti ovakvu funkciju tako što bi ponudili “napredne” funkcije ili “bolje” personalizovane prijedloge kao mamac, dok bi u pozadini prikupljali osjetljive fotografije za svoju korist.
Na primjer, korisnik bi mogao vidjeti obavijest na Facebooku koja ga poziva da “unaprijedi svoje iskustvo” učitavanjem fotografije svog lica kako bi AI mogla prepoznati njegove modne preferencije. Uz to, mogla bi se ponuditi i mogućnost da AI “prepozna” proizvode na slici koje korisnik nosi. Kada korisnik učita fotografiju, taj podatak se može eksploatisati na razne načine. Moguće je da bi se te fotografije koristile za treniranje naprednijih sistema za prepoznavanje lica koji se mogu koristiti u svrhe praćenja, ili bi se iz njih izvlačile dodatne informacije o korisniku koje bi bile komercijalizovane bez znanja korisnika. Učinkovitost ovakve prevare leži u povjerenju koje korisnici imaju prema poznatim platformama poput Facebooka, te u obećanju personalizovanijeg i boljeg korisničkog iskustva.
