OpenAI je objavio još jedan izvještaj koji opisuje radnje koje je nedavno preduzeo da spriječi zloupotrebu svojih usluga vještačke inteligencije od strane protivnika Sjedinjenih Država i drugih hakera.
Izvještaj kompanije AI o obavještajnim podacima o prijetnjama za februar ističe dvije operacije za koje se vjeruje da su ih izveli kineski hakeri.
U jednoj od ovih operacija, nazvanoj ‘Peer Review’ od strane OpenAI-a, ChatGPT nalozi su korišteni da pomognu u razvoju i distribuciji špijunskih alata.
Prema OpenAI-ju, ChatGPT je korišten za uređivanje i otklanjanje grešaka koda za ono što je izgledalo kao AI alat projektovan za unos i analizu postova i komentara sa platformi društvenih medija (uključujući X, Facebook, Telegram, Instagram, YouTube i Reddit) u potrazi za razgovorima o kineskim političkim i društvenim temama.
„Ponovo, prema opisima, jedna od svrha ovog alata je bila da se identifikuju razgovori na društvenim mrežama u vezi s kineskim političkim i društvenim temama – posebno bilo kakvi online pozivi za prisustvovanje demonstracijama o ljudskim pravima u Kini – i da se dobijenim uvidima prenesu kineskim vlastima“, objasnio je OpenAI.
Haker je takođe koristio ChatGPT za generisanje opisa i prodajnih prijedloga za ove alate.
Iako se činilo da alati za nadzor koriste AI, OpenAI je rekao da ih zapravo ne pokreću usluge kompanije – ChatGPT se koristio samo za otklanjanje grešaka i kreiranje promotivnih materijala.
Ista grupa je takođe koristila ChatGPT za istraživanje, prevođenje i analizu snimaka ekrana dokumenata na engleskom jeziku i generisanje komentara o kineskim disidentskim organizacijama.
Chatbot je takođe zloupotrijebljen za drugu operaciju povezanu s Kinom koja je uključivala generisanje sadržaja društvenih medija napisanih na engleskom i dugih novinskih članaka napisanih na španskom. Neki dokazi sugerišu da bi ova aktivnost mogla biti dio kampanje dezinformacija pod nazivom Spamouflage .
Najnoviji izvještaj OpenAI-ja takođe otkriva da je kompanija ugasila neke račune koji su možda korišteni kao podrška sjevernokorejskoj šemi lažnih IT radnika.
Izvor: SecurityWeek
