Okta vidi novu rupu u AI agentima: tko im smije oduzeti ključeve?

Okta vidi sljedeći sigurnosni problem u poduzećima tamo gdje ga mnogi još uvijek prikazuju kao produktivnosnu značajku: AI agenti više nisu samo chatbotovi koji čekaju pitanje, nego softverski akteri koji mogu dobiti pristup sustavima, podacima i poslovnim procesima. Prema The Registeru, izvršni direktor Todd McKinnon kaže da korisnici, među njima i ServiceNow, žele vrlo jednostavnu stvar: način da se odmetnutom agentu oduzme licenca za djelovanje.

To je hladniji, ali važniji dio trenutne AI priče. Dok dobavljači prodaju agente kao digitalne radnike koji mogu preuzeti zadatke, sigurnosni timovi moraju odgovoriti na prizemnija pitanja. Tko je agent? Koje ovlasti ima? Tko mu ih je dao? Koliko dugo vrijede? I što se događa kada agent počne raditi izvan očekivanog okvira?

Oktin odgovor, barem prema dostupnom opisu, nije nova magična zaštita nego pokušaj da se AI agenti uvedu u isti operativni režim u kojem već žive ljudi, aplikacije i servisi. Identitet nije samo prijava korisnika. U poslovnom okruženju on je zapis prava, ograničenja, revizijskog traga i mogućnosti opoziva. Ako agent može pokrenuti radnju u sustavu, onda mora postojati i jasan način da se ta sposobnost ukine.

ServiceNow je u toj priči važan signal, ne zato što mijenja sve, nego zato što predstavlja tip korisnika koji već razmišlja o agentima kao dijelu stvarnih poslovnih tokova. U takvom okruženju AI agent ne mora napraviti dramatičnu katastrofu da bi postao problem. Dovoljno je da pogrešno eskalira zahtjev, povuče podatke iz krivog izvora, nastavi izvršavati zastarjelu uputu ili zadrži pristup nakon što je projekt završen.

Zato je izraz "off switch" ovdje manje filmski nego što zvuči. U praksi bi to trebao biti administrativni i sigurnosni mehanizam: opoziv pristupa, gašenje tokena, ograničavanje dozvola i vidljiv trag o tome što je agent radio. Bez toga, poduzeća dobivaju novu klasu računa koji se ponašaju aktivno, ali ih je teže objasniti od klasičnog korisnika ili API integracije.

Regulatorni pritisak zasad je samo pozadina, ali smjer je očit. Ako AI agenti počnu donositi ili izvršavati odluke u poslovnim sustavima, audit neće moći završiti na rečenici da je "model nešto učinio". Netko će morati pokazati tko je agentu dao ovlasti, po kojim pravilima, u kojem trenutku i zašto mu pristup nije ranije ukinut.

Oktin potez zato vrijedi čitati kao ranu infrastrukturu za fazu u kojoj agenti prestaju biti demo i ulaze u svakodnevni rad. Najslabija točka neće nužno biti inteligencija modela, nego administracija povjerenja oko njega. Ako digitalni radnik dobije ključeve sustava, poduzeće mora znati gdje su ključevi, tko ih drži i kako se brave mijenjaju kad stvari krenu krivo.