Ovaj tekst naglašava ključne nalaze iz izvještaja za 2024. o vještačkoj inteligenciji i GenAI tehnologijama, fokusirajući se na njihov potencijal i glavne izazove.
Pretjerano oslanjanje na GenAI u razvoju softvera ugrožava sigurnost
96% stručnjaka za sigurnost i razvoj softvera navodi da njihove kompanije koriste rješenja zasnovana na GenAI-u za izgradnju ili isporuku aplikacija. Među ovim ispitanicima, 79% je izjavilo da svi ili većina njihovih razvojnih timova redovno koriste GenAI. Više programera nego profesionalaca za sigurnost izjavljuje zabrinutost zbog gubitka kritičkog razmišljanja zbog upotrebe vještačke inteligencije u razvoju (8% prema 3%).
Mehanizmi učenja vještačke inteligencije mogu dovesti do povećanja curenja kodne baze
43% ispitanika zabrinutih zbog potencijala povećanog curenja u bazama kodova istaklo je rizik učenja vještačke inteligencije i reprodukcije obrazaca koji uključuju osjetljive informacije. Pored toga, 32% je identifikovalo upotrebu tvrdo kodiranih tajni kao ključnu tačku rizika u okviru svog lanca nabavke softvera.
Jaki zakoni o privatnosti povećavaju povjerenje u dijeljenje informacija s vještačkom inteligencijom
Istraživanje otkriva da 63% vjeruje da vještačka inteligencija može biti korisna u poboljšanju njihovih života. Upotreba GenAI-a se skoro udvostručila, sa 23% ispitanika koji ga redovno koriste, u odnosu na 12% prošle godine. Fokusirajući se na privatnost, 30% korisnika GenAI kaže da unose lične ili povjerljive informacije, uključujući finansijske i zdravstvene detalje, u GenAI alate. Ovo je uprkos tome što je 84% zabrinuto zbog toga što će podaci biti u javnosti.
Hakeri pronalaze nove načine da iskoriste vještačku inteligenciju
Dok samo 21% hakera vjeruje da tehnologije vještačke inteligencije povećavaju vrijednost hakovanja u 2023. godini, 71% ih je izjavilo da će imati vrijednost u 2024. Uz to, hakeri sve više koriste GenAI rješenja, a 77% sada prijavljuje usvajanje takvih alata – 13 % povećanja u odnosu na 2023.
15% kancelarijskih radnika koristi nedozvoljene GenAI alate
Ivantijevo istraživanje pokazuje da 81% kancelarijskih radnika navodi da nisu prošli obuku o GenAI, a 15% koristi nedozvoljene alate. 32% sigurnosnih i IT profesionalaca nema dokumentovanu strategiju za rješavanje GenAI rizika. Neodobreni GenAI alati — baš kao i svaki drugi IT u sjeni — unose rizik širenjem površine napada organizacije bez ikakvog nadzora od strane sigurnosti, potencijalno uvodeći nepoznate ranjivosti koje ugrožavaju sigurnosni položaj organizacije.
Lideri sigurnosti razmatraju zabranu vještačke inteligencije kodiranja zbog sigurnosnih rizika
92% sigurnosnih lidera zabrinuto je zbog upotrebe koda generisanog vještačkom inteligencijom u njihovoj organizaciji. 66% ispitanika navodi da sigurnosni timovi ne mogu pratiti razvojne programere koji podržavaju vještačku inteligenciju. Kao rezultat toga, sigurnosni lideri osjećaju da gube kontrolu i da su kompanije izložene riziku, pri čemu 78% vjeruje da će kod razvijen od vještačke inteligencije dovesti do sigurnosnog računanja, a 59% gubi san zbog sigurnosnih implikacija vještačke inteligencije.
GenAI zujanje jenjava među višim rukovodiocima
Usvajanje GenAI je dostiglo kritičnu fazu, sa 67% ispitanika koji su izjavili da njihova organizacija povećava svoja ulaganja u GenAI zbog velike vrijednosti do danas. Iako je cilj odabir i brzo skaliranje projekata GenAI s najvećim potencijalom za stvaranje vrijednosti, mnogi napori GenAI su još uvijek u fazi pilota ili dokazivanja koncepta, a 68% kaže da je njihova organizacija premjestila 30% ili manje svog GenAI-a eksperimentira u potpunosti u proizvodnji.
GenAI modeli se lako kompromituju
95% stručnjaka za cyber sigurnost izražava malo povjerenja u GenAI sigurnosne mjere, dok podaci crvenog tima pokazuju da svako može lako hakovati GenAI modele. 35% ispitanika se boji pouzdanosti i tačnosti LLM, dok je 34% zabrinuto za privatnost i sigurnost podataka. Nedostatak kvalifikovanog osoblja čini 28% zabrinutosti.
Najhitniji sigurnosni rizici za GenAI korisnike su svi vezani za podatke
Koristeći globalne skupove podataka, istraživači su otkrili da 96% preduzeća sada koristi GenAI, što je broj koji se utrostručio u posljednjih 12 mjeseci. U prosjeku, preduzeća sada koriste skoro 10 GenAI aplikacija, u odnosu na tri prošle godine, pri čemu 1% najboljih korisnika sada koristi u prosjeku 80 aplikacija, što je značajno više od 14.
Nosači pod pritiskom za C-Suite rukovodioce za implementaciju GenAI rješenja
87% rukovodilaca C-Suite-a osjeća se pod pritiskom da implementiraju GenAI rješenja brzinom i razmjerom. Dok 43% rukovodilaca vjeruje da je GenAI ključan za zadržavanje njihove konkurentske prednosti, 68% priznaje da im je teško indefikovati prave inovatore na današnjem bučnom tržištu vještačke inteligencije.
Organizacije vagaju rizike i nagrade korišćenja vještačke inteligencije
Dvije trećine organizacija daje prioritet procjeni rizika od vještačke inteligencije koristeći postojeće interne procese (65%) i/ili smjernice i najbolje prakse profesionalnih organizacija (63%). Drugih 55% kaže da koriste važeće zakone/regulate na čekanju kako bi odredili prioritete rizika. Gotovo polovina ispitanika opisuje svoju toleranciju na rizik prema vještačkoj inteligenciji kao vrlo visoku (17%) ili visoku (29%), dok samo 12% navodi nisku (9%) ili vrlo nisku (3%) toleranciju na rizik vještačke inteligencije.
GenAI drži profesionalce za cyber sigurnost u stanju pripravnosti
Na pitanje kolika je prijetnja GenAI tehnologija cjelokupnom okruženju cyber sigurnosti, izvanrednih 96% svih ispitanika složilo se da je to prijetnja, a više od 36% je izjavilo da je njena upotreba za manipulaciju ili stvaranje obmanjujućih sadržaja (deepfakes) značajna. prijetnja.
Stručnjaci za cyber sigurnost mijenjaju strategije za borbu protiv prijetnji koje pokreće vještačka inteligencija
75% sigurnosnih profesionalaca moralo je promijeniti svoju strategiju cyber sigurnosti u prošloj godini zbog porasta cyber prijetnji koje pokreće vještačka inteligencija, a 73% je izrazilo veći fokus na mogućnosti prevencije. Porast suprotstavljene vještačke inteligencije takođe uzima danak profesionalcima za cyber sigurnost, pri čemu 66% priznaje da je njihov nivo stresa gori nego prošle godine, a 66% kaže da je vještačka inteligencija direktan uzrok izgaranja i stresa.
Organizacije nastavljaju sa vještačka inteligencija uprkos sigurnosnim rizicima
Usvajanje vještačka inteligencija i dalje je visoko, a 54% stručnjaka za podatke kaže da njihova organizacija već koristi najmanje četiri sistema ili aplikacije vještačke inteligencije, navodi Immuta. 79% takođe navodi da se njihov budžet za sisteme vještačke inteligencije, aplikacije i razvoj povećao u posljednjih 12 mjeseci.
Vještačka inteligencija stvara novu generaciju cyber napada
Većina preduzeća vidi da ofanzivna vještačka inteligencijabrzo postaje standardno sredstvo za cyber kriminalce, a 93% bezbednosnih lidera očekuje da će se suočiti sa svakodnevnim napadima vođenim vještačkom inteligencijom. Vještačka inteligencija neće biti korištena samo kao alat za poboljšanje cyber napada, već i u cyber odbrani. Iako je u izvještaju Ureda za nacionalnu statistiku objavljeno da 83% preduzeća nije planiralo usvojiti vještačku inteligenciju, to se ne potvrđuje kada se gleda na cyber sigurnost.
Stručnjaci za sigurnost su oprezni optimisti po pitanju vještačke inteligencije
Integracija vještačke inteligencije u sajber bezbednost nije samo koncept već i praktična realnost za mnoge, sa 67% ispitanika koji su izjavili da su testirali vještačku inteligenciju posebno u sigursne svrhe. Što se tiče sposobnosti korištenja vještačke inteligencije, 48% profesionalaca je izrazilo povjerenje u sposobnost njihove organizacije da provede strategiju za korištenje vještačkne inteligencije u sigurnosti, pri čemu se 28% osjeća razumno samopouzdano, a 20% vrlo samopouzdano.
22% zaposlenih priznaje da je prekršilo pravila kompanije sa GenAI
92% sigurnosnih profesionalaca ima zabrinutost za sigurnost oko generativne vještačke inteligencije, sa specifičnim bojaznima uključujući zaposlenike koji unose osjetljive podatke kompanije u alat vještačke inteligencije (48%), koriste sistemevještačke inteligencije obučene s netačnim ili malicioznim podacima (44%) i pada na vještačku inteligenciju poboljšanu pokušaji krađe identiteta (42%).
Alati vještačke inteligencije dovode kompanije u opasnost od eksfiltracije podataka
Kako današnje rizike sve više pokreću vještačku inteligenciju i GenAI, način na koji zaposlenici rade i proliferacija aplikacija u cloud-u, ispitanici navode da im je potrebna veća vidljivost u izvornom kodu koji se šalje u spremišta (88%), fajlovima koji se šalju na lične račune u cloud-u(87%) , i preuzimanja podataka sistema upravljanja odnosima s klijentima (CRM) (90%).
Kompanije zabranjuju ili ograničavaju upotrebu GenAI zbog rizika po privatnost
Većina organizacija postavlja kontrole kako bi ograničila izloženost: 63% je postavilo ograničenja u pogledu toga koji podaci se mogu uneti, 61% ima ograničenja na koje zaposleni mogu koristiti GenAI alate, a 27% je reklo da je njihova organizacija za sada u potpunosti zabranila GenAI aplikacije . Potrošači su zabrinuti zbog upotrebe vještačke inteligencije koja uključuje njihove podatke danas. Ipak, 91% organizacija prepoznaje da moraju učiniti više kako bi uvjerile svoje klijente da se njihovi podaci koriste samo u predviđene i legitimne svrhe u vještačku inteligenciju.
Izvor:Help Ner Security
