Nedavna istraga je otkrila da je Google Gemini for Workspace, svestrani AI asistent integrisan u različite Googleove proizvode, podložan indirektnim napadima brze injekcije.
Ove ranjivosti omogućavaju malicioznim trećim stranama da manipulišu pomoćnikom kako bi proizveli obmanjujuće ili nenamjerne odgovore, izazivajući ozbiljnu zabrinutost u vezi s pouzdanošću i pouzdanošću informacija koje generiše ovaj chatbot.
Gemini for Workspace je dizajniran da poveća produktivnost integracijom alata sa AI-om u Google proizvode kao što su Gmail, Google Slides i Google Drive.
Međutim, istraživači skrivenog sloja su kroz detaljne primjere dokaza dokazali da napadači mogu iskoristiti ranjivosti indirektnih brzih injekcija kako bi ugrozili integritet odgovora koje generiše ciljna instanca Gemini.
Jedan od najzabrinjavajućih aspekata ovih ranjivosti je mogućnost izvođenja phishing napada .
Na primjer, napadači mogu kreirati maliciozne e-poruke koje, kada ih obrađuje Gemini for Workspace, podstiču pomoćnika da prikaže obmanjujuće poruke, kao što su lažna upozorenja o narušenim lozinkama i uputstva za posjetu malicioznim web stranicama radi resetartovanja lozinki.
Nadalje, istraživači su pokazali da se ove ranjivosti šire izvan Gmaila na druge Google proizvode.
Na primjer, u Google Slides-u, napadači mogu ubaciti maliciozne sadržaje u bilješke govornika, uzrokujući da Gemini for Workspace generiše sažetke koji uključuju nenamjeran sadržaj, kao što su stihovi poznate pjesme.
Istraga je također otkrila da se Gemini for Workspace na Google Drive-u ponaša slično tipičnoj RAG instanci (Retrieve, Augment, Generate), dozvoljavajući napadačima da unakrsno ubrizgavaju dokumente i manipulišu izlaznim podacima pomoćnika.
To znači da napadači mogu dijeliti maliciozne dokumente s drugim korisnicima, ugrožavajući integritet odgovora koje generiše ciljna Gemini instanca.
Uprkos ovim nalazima, Google je ove ranjivosti klasifikovao kao „namjeravano ponašanje“, što ukazuje da ih kompanija ne smatra bezbjednosnim problemima.
Međutim, implikacije ovih ranjivosti su značajne, posebno u osjetljivim kontekstima gdje su pouzdanost i pouzdanost informacija najvažniji.
Otkrivanje ovih ranjivosti naglašava važnost opreza kada koristite LLM alate. Korisnici moraju biti svjesni potencijalnih rizika povezanih s ovim alatima i poduzeti potrebne mjere opreza kako bi se zaštitili od malicioznih napada.
Kako Google nastavlja sa uvođenjem Gemini for Workspace-a korisnicima, ključno je da kompanija riješi ove ranjivosti kako bi osigurala integritet i pouzdanost informacija koje generiše ovaj chatbot.
Izvor: CyberSecurityNews