Stanford je nedavno objavio AI Index 2025, izvještaj prepun uvida o tome kako se vještačka inteligencija razvija. Za CISO-e i IT sigurnosne profesionalce, ovo je odličan pregled trenutnog stanja, odgovora vlada, javnog mišljenja i tehnoloških trendova.
AI napreduje brzo i sve je prisutnija
Novi modeli postižu bolje rezultate na složenim zadacima kao što su kodiranje i matematika, i to brže nego prethodne godine. Neki AI agenti nadmašuju ljude u zadacima pod vremenskim pritiskom.
Područja sa velikim napretkom uključuju:
- generisanje videa,
- sekvenciranje proteina,
- medicinsku dijagnostiku.
AI se koristi i van laboratorija:
- 223 AI medicinska uređaja odobrena od strane FDA samo u 2023.
- Robotaksiji su u redovnoj upotrebi u gradovima SAD-a i Kine.
- 78% firmi koristilo AI u 2024., u odnosu na 55% u 2023.
Industrija prednjači, ali donosi rizike
- Skoro 90% značajnih AI modela u 2024. dolazi iz industrije, ne akademije.
- Ipak, istraživači ostaju glavni izvor visoko citiranih radova.
- Računarska snaga potrebna za treniranje AI modela udvostručuje se svakih 5 mjeseci.
Ali dolazi uz cijenu:
- Trening GPT-4 stvorio je više od 5.000 tona CO₂.
- Llama 3.1 generisala je skoro 9.000 tona CO₂.
Dobra vijest? Troškovi eksponencijalno padaju – cijena izvođenja modela sličnog GPT-3.5 pala je 280 puta u samo 18 mjeseci. Otvoreni modeli sada u nekim testovima zaostaju manje od 2% za zatvorenim.
Vlade pojačavaju regulaciju i ulaganja
- SAD je 2024. izdao 59 AI propisa, dvostruko više nego 2023.
- Više od 75 država uključilo je AI u svoje zakone.
- 24 američke savezne države usvojile su zakone protiv deepfake-ova u izborima.
Ulaganja rastu:
- Kanada: 2,4 milijarde dolara za AI infrastrukturu
- Kina: fond za čipove od 47,5 milijardi dolara
- Saudijska Arabija: projekt “Transcendencija” vrijedan 100 milijardi dolara
Ovo pokazuje globalni prelazak s riječi na djela.
Problemi s povjerenjem i sigurnošću ostaju
- Broj incidenata vezanih za AI porastao je za 56% u 2024.
- Iako alati za mjerenje sigurnosti i pristrasnosti napreduju, malo firmi ih koristi redovno.
- Čak i trenirani modeli pokazuju rodne i rasne pristrasnosti.
Javno mišljenje je podijeljeno:
- Optimistični su građani Kine i Indonezije.
- Skepticizam raste u SAD-u, Kanadi i Nizozemskoj.
- Povjerenje u AI kompanije opada, posebno oko privatnosti i pravičnosti.
Obrazovanje o AI raste – ali ne svugdje
- 2/3 država sada nudi informatiku u osnovnim i srednjim školama.
- Broj diplomiranih iz CS oblasti takođe raste.
- Međutim, u mnogim regijama nedostaje infrastruktura.
- U SAD-u većina nastavnika želi predavati AI, ali ne osjećaju se spremnima.
Zašto ovo sve važi za CISO-e i IT profesionalce?
- AI se širi u svim sektorima, pa i u sigurnosnim alatima i napadima.
- Regulatorna usklađenost postaje obavezna – FIPS, ISO, AI zakonodavstvo.
- Transparentnost i praćenje AI modela biće ključni za zaštitu podataka, reputacije i usklađenosti.
Zaključak: AI nije više samo tehnička novost – ona mijenja industriju, zakon, društvo i sigurnost. Vrijeme je za proaktivno djelovanje.Tools
Izvor:Help Net Security