Gartner hladi groznicu AI agenata: autonomija sada mora proći reviziju
Agentni AI ulazi u fazu strožeg nadzora i rezanja ovlasti.📷 AI-generated image / TECH&SPACE
- ★Gartnerova prognoza cilja agentni AI, ali problem nije sama tehnologija nego slabo upravljanje primjenom.
- ★Najranjiviji su agenti kojima su dodijeljene ovlasti bez jasnog nadzora, vlasništva i provjere odluka.
- ★Regulatorni i implementacijski pritisak vjerojatno će gurati tvrtke prema manjim, strože ograničenim agentnim sustavima.
The Register prenosi Gartnerovu prognozu koja reže kroz najglasniji AI narativ godine: četiri od deset AI agenata mogla bi završiti degradirana ili bačena u digitalnu kantu. To nije presuda da agentni AI nema smisla. To je hladniji signal da tvrtke još nemaju dovoljno čvrste sustave upravljanja za softver koji ne samo odgovara, nego planira, bira korake i pokreće radnje.
Ključna riječ ovdje nije inteligencija, nego ovlast. Klasični chatbot može pogriješiti u odgovoru. Agent može pogrešan odgovor pretvoriti u akciju, proslijediti ga kroz alat, otvoriti zahtjev, promijeniti zapis ili pokrenuti niz zadataka. Zato Gartnerova procjena, kako je prenesena, pogađa točno onu zonu u kojoj se demo prezentacije sudaraju s revizijom, sigurnošću, pravnim odjelom i vlasnicima procesa.
Problem je posebno nezgodan jer agentni AI često obećava uštedu kroz autonomiju. No autonomija bez granica traži odgovore koje mnoge organizacije još nemaju: tko je vlasnik odluke, gdje se prekida lanac automatizacije, kako se bilježe koraci, kada čovjek mora potvrditi radnju i što se događa kada model uvjerljivo napravi pogrešan zaključak. Okviri poput NIST AI Risk Management Frameworka već guraju raspravu prema mjerljivom riziku, a ne prema maglovitoj produktivnosti.
Prognoza koju prenosi The Register pokazuje da se agentni AI iz demo faze sudara s upravljanjem, odgovornošću i pravilima provedbe.
Najveći rizik nije odgovor modela, nego radnja koju agent može pokrenuti.📷 AI-generated image / TECH&SPACE
Zato se Gartnerova prognoza ne treba čitati kao spektakularni obrat protiv AI-ja, nego kao filtriranje. Agenti koji imaju usku zadaću, jasne ulaze, ograničene dozvole i dobar trag revizije vjerojatno će preživjeti. Agenti koji su prodani kao univerzalni digitalni zaposlenici, bez čvrste kontrole nad alatima i podacima, prvi su kandidati za smanjivanje ovlasti.
Regulatorni kontekst dodatno sužava prostor za improvizaciju. Europski AI Act i slični pritisci u drugim jurisdikcijama ne traže samo lijepu prezentaciju modela, nego objašnjivost odgovornosti, upravljanje rizikom i dokaz da sustav radi unutar propisanih granica. U tom okruženju agent koji djeluje preko više aplikacija više nije samo IT eksperiment. On postaje dio kontroliranog poslovnog procesa.
Za dobavljače AI platformi ovo je neugodan, ali zdrav test. Tržište je brzo naučilo govoriti o agentima, orkestraciji i automatiziranim radnim tokovima. Sporije uči govoriti o odobrenjima, zapisnicima, povratu na prethodno stanje, ograničenjima pristupa i scenarijima kvara. Dokumentacija projekata poput OpenAI Agents SDK-a pokazuje koliko je u praksi važno definirati alate, granice i nadzor, a ne samo pustiti model da “radi”.
Ako se četiri od deset agenata doista povuku, to neće značiti da je agentni AI puknuo. Značit će da je prva generacija implementacija bila preširoko obećana i preslabo ograđena. Sljedeća faza bit će manje glamurozna: manji agenti, uži zadaci, tvrđe kontrole i puno više pitanja prije nego što se softveru dopusti da sam pritisne gumb.
