Prema izvještaju LayerX-a, organizacije nemaju nikakav uvid u 89% korištenja AI alata, uprkos postojećim sigurnosnim politikama. Takođe, 71% konekcija s generativnim AI (GenAI) alatima odvija se putem ličnih, nekorporativnih naloga. Među prijavama koje koriste korporativne naloge, 58% konekcija se obavlja bez Single Sign-On (SSO) autentifikacije. Ove interakcije zaobilaze sisteme za upravljanje identitetima i pristupima (IAM), ostavljajući sigurnosne timove u mraku kada je u pitanju način na koji se koriste GenAI alati i koji podaci se dijele.
Povremeni korisnici GenAI-ja nisu svjesni rizika izloženosti podataka
Većina korisnika GenAI alata su povremeni korisnici i nisu svjesni rizika koje donosi izloženost podataka. Samo 15% zaposlenih u preduzećima koristi ove alate svake sedmice. Dok mali broj korisnika intenzivno koristi AI, većina su povremeni korisnici.
Najveću grupu aktivnih korisnika čine softverski developeri. Među poslovnim korisnicima, 39% onih koji koriste GenAI alate pripada sektorima istraživanja i razvoja (R&D), dok 28% dolazi iz sektora prodaje i marketinga. Korisnici iz IT-a, ljudskih resursa i finansija čine jednocifren procenat.
Istraživanje pokazuje da je 20,63% svih korisnika instaliralo AI ekstenzije za pretraživače. Od onih koji imaju takve ekstenzije, 45% ih ima više od jedne. Takođe, 58% GenAI ekstenzija za pretraživače ima domet dozvola koji se klasifikuje kao “visok” ili “kritičan”, u poređenju sa 66,6% svih ekstenzija.
Na kraju, 5,6% AI ekstenzija se klasifikuje kao “maliciozne” i mogu se koristiti za krađu podataka.
90% AI upotrebe se odvija u poznatim aplikacijama, ali postoji dugačak niz skrivenih AI alata
Velika većina AI upotrebe (90%) koncentrisana je u velikim, dobro poznatim aplikacijama. ChatGPT sam čini 50% poslovne upotrebe AI-ja, dok prvih pet AI SaaS aplikacija pokriva 85% korištenja.
Međutim, pored ovih poznatih aplikacija, postoji dugačak niz manje korištenih AI alata koji prolaze neopaženo. Zbog toga sigurnosni timovi ne znaju koji se sve AI alati koriste i gdje bi trebali primijeniti kontrolne mjere.
Mali broj korisnika izlaže velike količine podataka
Iako je tekstualni unos najčešći oblik interakcije s GenAI alatima, podaci u velikim količinama mogu iscuriti putem copy/paste funkcije i prenosa datoteka. Približno 18% korisnika copy/paste podatke u GenAI alate, a oko 50% tih podataka odnosi se na informacije unutar kompanije.
“Kako preduzeća usvajaju GenAI, sigurnosni timovi se suočavaju sa sve većim izazovom – zaštititi se od prijetnji koje ne mogu vidjeti,” kaže Or Eshed, izvršni direktor LayerX-a.
Nalazi iz izvještaja naglašavaju potrebu za proaktivnim, rizično orijentisanim pristupom u osiguravanju skrivenih prijetnji koje donosi GenAI. Glavni sigurnosni službenici (CISO) i menadžeri za sigurnost trebali bi implementirati sveobuhvatan okvir za ublažavanje AI rizika. To uključuje mapiranje korištenja GenAI-ja u organizaciji kako bi se razumio profil rizika kompanije i razvila efikasna strategija za rješavanje problema.
Organizacije bi takođe trebale uvesti AI reviziju na nivou krajnjih tačaka kako bi stekle uvid u AI aktivnosti zaposlenih i otkrile potencijalne curenje podataka. Osim toga, ograničavanje upotrebe ličnih naloga i sprovođenje SSO autentifikacije osigurava da zaposlenici koriste korporativne GenAI naloge sa ugrađenim sigurnosnim mjerama.
“Zabrana AI-ja nije dugoročno rješenje u svijetu koji postaje sve više vođen AI tehnologijama. Zato je ključno primijeniti sigurnosne mjere koje su prilagodljive i kontekstualne, omogućavajući zaposlenima sigurno korištenje AI-ja bez gubitka produktivnosti,” zaključio je Eshed.
Izvor:Help Net Security
