Dok sigurnosni timovi iskorištavaju mogućnosti generativne umjetne inteligencije kako bi pojednostavili i ubrzali svoje sigurnosne operacije, usvajanje LLM-a otvorilo je mogućnosti sajber kriminalcima da pokrenu lakše i još upornije kibernetičke napade. Jedan takav napad koji je nedavno upao u oči istraživačima, omogućio je hakerima da distribuišu kradljivca profila putem Facebook oglasa sa temom LLM.
Proces infekcije
Vektor infekcije uključuje kreiranje lažnih profila na Facebooku i korištenje plaćenih promocija za guranje lažnih reklama marketinških kompanija ili odjela.
- Ove reklame mame korisnike da kliknu na link obećavajući povećanje produktivnosti, povećanje dosega i prihoda, te pomoć u nastavi, a sve uz pomoć AI. Neki od mamaca obećavali su pristup Google Bardu ili Meta AI.
- Kada korisnici kliknu na link, preusmjeravaju se na web stranicu koja sadrži instalacijski program za AI paket, koji je zapravo maliciozna datoteka.
- Nakon što se izvrši, instaler ispušta nekoliko datoteka na Chrome ekstenziju dizajniranih za krađu Facebook kolačića i pristupnih tokena, koji se zatim koriste za traženje dodatnih informacija od Facebookovog GraphQL-a.
Ciljevi
Koristeći ključne riječi i varijable uočene u malicioznom skriptu, istraživači vjeruju da bi iza napada mogli stajati vijetnamski hakeri. Trend Micro sugeriše da je glavni cilj hakera da ciljaju i zaraze poslovne menadžere društvenih mreža, administratore i stručnjake za marketing.
Nedavni zločini povezani s umjetnom inteligencijom
- Sophos je uočio rastući trend jedinstvene prevare CryptoRom koja je koristila generativne AI alate za ćaskanje kako bi namamila i komunicirala sa žrtvama da instaliraju i finansiraju lažnu aplikaciju za kriptotrgovanje.
- U odvojenom incidentu, hakeri su uveli alat FraudGPT na dark web forume, sposoban za dizajniranje spear-phishing e-poruka, generisanje alata za krekovanje i olakšavanje aktivnosti vezanih za prevare sa karticama.
- Uočen je i novi generativni AI alat za kibernetički kriminal pod nazivom WormGPT, koji omogućava protivnicima da pokrenu sofisticirane phishing i BEC napade. Alat automatizira kreiranje vrlo uvjerljivih lažnih mejlova personaliziranih primaocu, povećavajući šanse za uspjeh napada.
Budite sigurni
Kako bi spriječili da postanu žrtve tekuće kampanje napada, korisnicima Facebooka se savjetuje da budu oprezni prilikom interakcije s reklamama, posebno onima koje obećavaju pristup AI paketima ili ekskluzivnim funkcijama. Pored toga, preduzeća se ohrabruju da edukuju svoje zaposlene o potencijalnim rizicima reklama na društvenim mrežama i implementiraju sigurnosne mjere kao što je višefaktorska autentifikacija kako bi zaštitili svoje naloge.
Izvor: Cyware Alerts – Hacker News