The Shadow Builders pokazuje gdje AI aplikacije bježe enterprise sigurnosti
Shadow AI se iz prompta pretvara u javno dostupan softver.📷 AI-generated image / TECH&SPACE
- ★Shadow AI se proširio s neodobrenog korištenja chatbota na izradu punih aplikacija bez sigurnosnog nadzora.
- ★Uzorak od 2.000 izloženih vibe-coded aplikacija pokazuje prazninu između brzine AI razvoja i enterprise kontrole.
- ★Sigurnosni timovi trebaju otkrivanje, vlasništvo, pregled koda i runtime nadzor za aplikacije nastale izvan službenog SDLC-a.
Shadow AI je u enterprise sigurnosti do jučer značio prilično jasan problem: zaposlenik zalijepi interni dokument, korisničke podatke ili komad koda u neodobreni AI alat. To je i dalje ozbiljno, ali nova faza je nezgodnija. Prema tekstu koji je objavio The Hacker News, izvješće The Shadow Builders pomiče fokus na zaposlenike koji uz pomoć AI-ja grade cijele aplikacije, spajaju ih na produkcijske sustave i objavljuju ih na otvorenom internetu bez sigurnosti i IT-a u petlji.
To je bitna promjena. Rizik više nije samo u promptu, nego u artefaktu koji ostaje živjeti nakon što je chat završen. Vibe-coded aplikacija može imati autentikaciju, baze podataka, API ključeve, web forme, integracije s internim alatima i javni URL. Ako nitko ne zna tko ju je napravio, gdje se hosta, koje tajne koristi i tko je održava, tada klasični sigurnosni stack gleda u krivi sloj sustava.
Brojka iz naslova, 2.000 izloženih aplikacija, nije zanimljiva samo kao statistika. Ona je simptom novog operativnog modela: poslovni korisnik ili mali tim više ne čeka backlog, odobrenje i formalni razvojni ciklus, nego uzme AI alat i složi rješenje dovoljno dobro da radi. To je korisno za produktivnost, ali je pogubno za kontrole koje pretpostavljaju da sav softver prolazi kroz poznati repozitorij, CI/CD, pregled sigurnosti i inventar imovine.
Izloženi uzorak od 2.000 AI-izrađenih aplikacija pokazuje zašto se sigurnosni stackovi lome kada zaposlenici bez nadzora pretvore prompt u javno dostupan proizvod.
Problem počinje kada brzi AI alat dobije produkcijski pristup.📷 AI-generated image / TECH&SPACE
Najveća rupa zato nije nužno u modelu koji je napisao kod. Rupa je u upravljanju. Ako aplikacija nastane izvan službenog SDLC-a, sigurnosni timovi često nemaju ni osnovna pitanja riješena: postoji li vlasnik, je li kod pregledan, jesu li tajne u env varijablama ili u repozitoriju, postoji li logging, tko prima alerte i kako se aplikacija gasi ako postane problem. To su dosad bila dosadna administrativna pitanja. U eri AI-generiranog softvera postaju prva linija obrane.
Okvir za odgovor već postoji, ali ga treba primijeniti na novu brzinu nastanka softvera. OWASP Top 10 for LLM Applications dobro opisuje rizike oko modela, promptova i integracija, dok NIST Secure Software Development Framework daje disciplinu za razvoj softvera koji se može pratiti i provjeriti. Za organizacije koje puštaju zaposlenike da grade interne alate uz AI, to znači inventar javno dostupnih aplikacija, automatsko otkrivanje novih URL-ova i cloud resursa, pregled tajni, minimalna pravila za autentikaciju i jasan put prema gašenju ili preuzimanju vlasništva.
Tu je i kulturni dio koji sigurnost često podcijeni. Ako se AI alati zabrane bez alternative, shadow development će samo postati manje vidljiv. Bolji odgovor je kontrolirani put: odobreni alati, lagani predlošci, sigurni deployment profili, brzi pregled za male aplikacije i jasna pravila što nikada ne smije izaći na internet. CISA Secure by Design tu je koristan podsjetnik da sigurnost ne smije biti dodatak na kraju, nego dio načina na koji se proizvod uopće rađa.
Zaključak je neugodan, ali jednostavan: AI nije samo ubrzao pisanje koda. Ubrzao je nastanak nepoznatog softvera. Enterprise sigurnost koja još uvijek traži samo neodobrene chatbot sesije promašuje novu površinu napada, jer se najopasniji prompt možda već pretvorio u aplikaciju s produkcijskim pristupom.
