Izraelska kompanija Irregular, ranije poznata kao Pattern Labs, u srijedu je objavila da je prikupila 80 miliona dolara za svoju laboratoriju koja testira bezbjednost AI modela.
Kompaniju su osnovali Dan Lahav (izvršni direktor) i Omer Nevo (tehnički direktor), a stvorila je ono što naziva „frontier AI security lab“ koji stavlja modele vještačke inteligencije na probu.
Irregular može testirati modele kako bi utvrdio njihov potencijal za zloupotrebu od strane hakera, kao i otpornost samih modela na napade usmjerene protiv njih.
Irregular, koji tvrdi da već ostvaruje milione dolara godišnjeg prihoda, kaže da razvija alate, metode testiranja i okvire za ocjenjivanje u oblasti AI bezbjednosti.
Kompanija navodi da radi „rame uz rame“ sa velikim AI kompanijama poput OpenAI-ja, Google-a i Anthropica, te da je objavila nekoliko radova u kojima opisuje svoja istraživanja Claude-a i ChatGPT-a.
„Irregular je preuzeo ambicioznu misiju da obezbijedi da budućnost AI bude podjednako bezbjedna koliko i moćna“, rekao je izvršni direktor Lahav. „AI sposobnosti napreduju nevjerovatnom brzinom; mi gradimo alate koji će testirati najnaprednije sisteme mnogo prije javnog izdanja i stvoriti mjere koje će oblikovati način na koji će AI biti odgovorno primijenjen u velikim razmjerama.“
Sajber bezbjednosna industrija redovno demonstrira napade protiv popularnih AI modela. Istraživači su nedavno pokazali kako se nova ChatGPT integracija sa kalendarom može zloupotrijebiti za krađu korisničkih e-mailova.
Izvor: SecurityWeek
