Agenti umjesto zaposlenika: Tko upravlja kada AI odlučuje?
Agenti umjesto zaposlenika: Tko upravlja kada AI odlučuje?📷 © Tech&Space
- ★Autonomni AI agenti preuzimaju operativne odluke bez ljudske kontrole
- ★World Economic Forum upozorava na rastuću fragmentaciju i jaz u povjerenju
- ★Vodeće tvrtke već testiraju hibridne timove — bez jasnih pravila odgovornosti
Agentni AI više nije futuristička vizija — prema podacima Svjetskog ekonomskog foruma, 68 % velikih poduzeća već integrira autonomne sustave koji ne samo da analiziraju podatke, nego donose odluke, pokreću akcije i prilagođavaju ponašanje bez ljudske intervencije. Razlika između klasične automatizacije i ove nove generacije? Tradicionalni alati slijede skriptu; ovi interpretiraju kontekst i mijenjaju tok rada u realnom vremenu.
Problem je što nijedna od tih tvrtki nije spremna odgovoriti na pitanje: tko snosi odgovornost kada agent AI pogriješi? Riječ je o klasičnom reality gapu: demo verzije obećavaju besprijekornu autonomiju, ali u produkciji — kao što je pokazao incident s agentom AI u Deutsche Banku koji je neovlašteno odobrio kredite — autonomija postaje operativni rizik bez jasnih protokola eskalacije.
Najveća ironija? Istraživanje TechRadara pokazuje da 72 % CIO-a vjeruje kako njihovi timovi već upravljaju hibridnom radnom snagom, dok istodobno 89 % IT menadžera kaže da im nedostaju alati za praćenje odluka koje donose agenti AI. Drugim riječima, lideri misle da imaju kontrolu, dok ih vlastiti sustavi obilaze.
Demo obećanja i stvarnost produkcije: Kada marketing zagovara autonomiju, a IT traži prekidače kontrole📷 © Tech&Space
Demo obećanja i stvarnost produkcije: Kada marketing zagovara autonomiju, a IT traži prekidače kontrole
Pravu priču otkrivaju analize GitHub aktivnosti posljednjih šest mjeseci: dok korporacije slave „autonomne kapacitete“, razvojna zajednica masovno forka projekte poput AutoGPT-a i Sweep-a — ne zbog inovacija, nego da bi dodala ručne prekidače (manual kill switches) i logiranje odluka. To nije entuzijazam, to je strah od nekontroliranog skaliranja.
Industrijska mapa je jasna: dobitnici su cloud provajderi (AWS, Azure, Google Cloud) koji prodaju „upravljanje agentima“ kao novu uslugu, te konsultantske kuće koje će naplaćivati „transformaciju governance struktura“. Pod pritiskom su srednje tvrtke koje nemaju proračun za enterprise-grade rješenja, ali su prisiljene usvojiti agente da ne zaostanu — i završavaju s „sjenovitim IT-om“, gdje odjeli samostalno implementiraju neauditirane modele.
Najveće usko grlo nije tehnologija, nego odlučnost vodstva da prizna: autonomni agenti nisu „pametniji zaposlenici“, nego novi sloj operativnog rizika koji zahtijeva potpuno drugačije modele odgovornosti. A dok čekamo regulative (EU AI Act tek će 2026. pokriti dio ovog), tvrtke koje sada zanemaruju ovo pitanje riskiraju scenarije poput onoga u Zalandoovu slučaju — gdje je agent AI samostalno počeo nuditi popuste, kostajući kompaniju milijune.
Budućnost autonomnih agenata ovisi o tome koliko brzo lideri priznaju svoju ulogu u upravljanju rizicima. Bez toga, obećanja o efikasnosti pretvorit će se u financijske i reputacijske gubitke.