Otkriven je ozbiljan bezbjednosni propust u okruženju za razvoj aplikacija sa vještačkom inteligencijom LangChain, koji bi mogao omogućiti hakerima da kradom pristupe i manipulišu osjetljivim korisničkim podacima putem LangSmith platforme. Istraživači za sajber bezbjednost otkrili su da su ranjivosti dozvoljavale zlonamjernim akterima da izvršavaju napredne napade „prompt injection“, koji im daju moć da pristupe internim podacima developera i servisa integrisanih preko API ključeva.
LangChain i LangSmith se koriste za razvoj i praćenje složenih aplikacija baziranih na jezičkim modelima, uključujući i one koje upravljaju osjetljivim korisničkim informacijama ili koriste komercijalne AI servise. Prema dostupnim informacijama, hakeri su mogli iskoristiti LangSmith interface kako bi upravljali tokovima podataka, pristupili logovima, pa čak i čitali sadržaj API ključeva koji bi im omogućili dalju eskalaciju napada.
Ranjivost se javlja zbog načina na koji LangChain upravlja ulaznim podacima unutar svojih tokova izvršenja, dozvoljavajući zlonamjernim promptima da modifikuju ponašanje aplikacija i pristupe inače privatnim podacima. Posebno je zabrinjavajuće što su svi tokovi izvršavanja unutar LangSmith interfejsa bili vidljivi svakome ukoliko interni kontrolni mehanizmi nisu bili pravilno konfigurirani.
Napadač bi mogao jednostavno infiltrirati maliciozan prompt u sistem korisnika koristeći podatke iz javno dostupnih biblioteka i tako dobiti pristup API ključevima za servise poput OpenAI, što bi mu omogućilo izvršavanje dodatnih AI zadataka na račun korisnika – bez njihovog znanja i uz eventualne finansijske troškove za samu žrtvu.
Razvojni tim LangChain-a preduzeo je mjere za otklanjanje propusta i implementirao dodatne zaštitne mehanizme za podršku povjerljivosti i sigurnosti korisničkih podataka. Korisnicima se preporučuje da odmah ažuriraju sve instance LangSmith-a i revidiraju pristupne kontrole i konfiguracije API ključeva kako bi spriječili potencijalne zloupotrebe.
