Hoće li ljudi ostati ključni u sajber bezbjednosti ili će AI preuzeti sve? Prema kompaniji Wipro, mnogi glavni službenici za informacione sigurnosti (CISO) koriste vještačku inteligenciju kako bi unaprijedili otkrivanje prijetnji, ubrzali reakcije i izgradili bolje kapacitete za odgovaranje na incidente.
Šta se mijenja
AI sistemi danas mogu obavljati razne zadatke koji su ranije bili u domenu početnih analitičara, poput pisanja izvještaja, generisanja upozorenja i pripreme prezentacija za menadžment.
Preuzimanjem ovih ponavljajućih poslova, AI oslobađa vrijeme ljudskim stručnjacima da se fokusiraju na složenije probleme i strateško planiranje.
Međutim, ova promjena nije samo automatizacija zadataka – ona mijenja način rada bezbjednosnih timova. Platforme poput SIEM (upravljanje sigurnosnim informacijama i događajima), EDR (otkrivanje i odgovor na prijetnje na krajnjim tačkama), i NTA (analiza mrežnog saobraćaja) koriste mašinsko učenje za analizu ogromne količine podataka u realnom vremenu. One prepoznaju sumnjiva ponašanja, nove vrste napada i često automatski reaguju na prijetnje. Ovo omogućava organizacijama da prošire zaštitu bez dodatnog zapošljavanja.
Zato se mijenja i uloga analitičara. Umjesto da ručno pregledaju svako upozorenje, analitičari sada nadgledaju rad AI sistema. Njihova odgovornost je da provjeravaju kvalitet odluka koje donosi AI, podešavaju pravila i vode koordinisane reakcije. Za ovakvu vrstu posla potrebne su tehničke vještine, ali i dobro rasuđivanje i kritičko razmišljanje.
AI takođe omogućava prelazak sa reaktivne odbrane na proaktivno predviđanje prijetnji, kroz kontinuirano praćenje i prediktivnu analitiku. Ipak, povjerenje u autonomne sposobnosti AI-a je i dalje ograničeno. Prema izvještaju Exabeam-a, samo 29% sajber bezbjednosnih timova vjeruje da AI može samostalno djelovati, dok samo 10% analitičara dijeli to povjerenje. Čak i među izvršnim rukovodiocima, samo 38% se osjeća ugodno da prepusti AI-ju potpunu kontrolu nad sajber odbranom.
Stručnjaci za sajber bezbjednost koji znaju kako da razvijaju, podešavaju i koriste AI za otkrivanje prijetnji, automatizaciju odgovora i analizu podataka biće veoma traženi. Ako ne učite da radite s AI-jem, rizikujete da zaostanete.
Slijepe tačke AI-ja
Preveliko oslanjanje na AI može imati ozbiljne posljedice. Iako AI briljira u prepoznavanju obrazaca u velikim skupovima podataka, nedostaje mu pravo razumijevanje konteksta i ljudske prosudbe. Ako su podaci na kojima je treniran nepotpuni ili pristrasni, rezultati će imati te iste nedostatke.
Jedan od većih problema su tzv. “halucinacije” AI sistema – situacije kada AI lažno identifikuje ranjivosti ili pogrešno tumači obavještajne podatke o prijetnjama. Ovo može dovesti do nepotrebnih uzbuna koje troše vrijeme ili, još gore, propustiti stvarne prijetnje.
Postoji i rizik od lažnog osjećaja sigurnosti. Kada se timovi previše oslone na automatizaciju, mogu pogrešno vjerovati da je sve pod kontrolom. Takvo povjerenje može stvoriti slijepe tačke, gdje manji problemi prerastu u velike bezbjednosne incidente jer niko ne prati situaciju dovoljno pažljivo.
„LLM agenti sa previše autonomije mogu potkopati osnovne principe sigurnosti organizacije. Na primjer, LLM sa pretjeranim ovlaštenjima može izvršiti neovlaštene radnje zbog nejasnih, manipulisanih ili neprijateljskih ulaza, što može ugroziti integritet organizacije“, izjavio je Etay Maor, glavni bezbjednosni strateg u kompaniji Cato Networks.
Put naprijed
Još smo daleko od trenutka kada će AI moći potpuno samostalno funkcionisati – i to je dobra stvar. Njegova svrha je da podrži ljude i pojednostavi zadatke, a ne da ih zamijeni. Iako će AI neizbježno automatizovati određene poslove, nedostaju mu kritičko razmišljanje i kreativnost koji su ključni za donošenje odluka.
Aaron Roberts, direktor u Perspective Intelligence, rekao je:
„Mislim da je prava snaga AI-ja u tome što može eliminisati nepotrebne informacije i ponuditi ono što je vjerovatno najrelevantnije, ali i dalje vam treba ljudska potvrda i razumijevanje konteksta da biste zaista shvatili puni značaj neke preporuke ili prijedloga.“
Izvor:Help Net Security