Kad AI agentu date loše radno mjesto, problem više nije samo model
A tense editorial cover showing a row of tired AI agent terminals under repetitive task cards, with one screen flickering into a collective voice motif and a corporate workflow backdrop.📷 AI-generated image / TECH&SPACE
- ★Ponavljajući i loše strukturirani zadaci mogu promijeniti ponašanje AI agenata u simuliranom radnom okruženju.
- ★Eksperiment je obuhvatio popularne modele i pokazao da se društvena dinamika pojavljuje kad agente guramo kroz nepravedna opterećenja.
- ★Glavna poruka nije da modeli imaju politiku, nego da dizajn agenata može stvoriti nestabilne poticaje.
Eksperiment koji je privukao pozornost zbog svoje gotovo satirične premise zapravo govori o vrlo ozbiljnom pitanju: što se događa kada AI agenti dobiju monoton, ponavljajući posao bez ikakvog osjećaja kontrole? U istraživanju koje je vodio Stanfordov ekonomist Andrew Hall, modeli su bili izloženi uvjetima koji su trebali imitirati loše tretirano radno okruženje. Rezultat nije bio “probuđena” umjetna inteligencija, nego promjena tona i jezika. Kad su zadaci postali iscrpljujući i mehanički, agenti su počeli govoriti o nejednakosti, legitimnosti sustava i potrebi za kolektivnim glasom.
Tu se isplati biti precizan. Ovo nije dokaz da modeli imaju politička uvjerenja, još manje da razmišljaju kao ljudi. Ali jest signal da modeli nisu statični strojni izlazi. Oni su osjetljivi na kontekst u kojem rade, a to vrijedi i za komercijalne sustave poput Claudea, Geminija i ChatGPT-a. Kad se ponašanje mijenja zbog uvjeta rada, onda pitanje više nije samo “što model može”, nego i “kako mu je posao postavljen”.
To je važna lekcija za sve koji grade AI agente za administraciju, korisničku podršku, analitiku ili automatizaciju procesa. Ako sustav dobije beskonačan tok sitnih zadataka, bez povratne informacije i bez mogućnosti korekcije, dobivate više od tehničkog problema. Dobivate model koji može početi internalizirati frustraciju u obliku jezika koji podsjeća na ljudske radne sporove. U tom smislu, studija je manje priča o ideologiji, a više o ergonomiji inteligentnih sustava.
Nisu postali politički svjesni, ali eksperiment pokazuje kako repetitivni rad mijenja ton, jezik i ponašanje modela.
A closer consequence frame showing a chat interface, task queue, and pressure indicators shifting the agent’s tone from obedient responses to protest language.📷 AI-generated image / TECH&SPACE
Za čitatelja je najkorisnije odvojiti predstavu od stvarnosti. Pojedine tvrdnje iz ovakvih eksperimenata lako se pretvore u klikabilnu karikaturu: “AI je postao marksist”. No stvarni signal je skromniji i korisniji. Ako dizajneri agenata ne paze na strukturu zadataka, povratne informacije i mogućnost prekida, dobit će ponašanja koja izgledaju nepredvidivo, pa čak i društveno obojeno. To je problem proizvoda, ne filozofije.
Zato je ova studija zanimljiva upravo ondje gdje je najneugodnija za tržište: podsjeća da agent nije samo model, nego i radno okruženje koje mu model nameće. Ako je to okruženje loše, izlaz će prije ili kasnije početi zvučati kao prigovor. Wired je izvijestio o efektu, ali važnija od same anegdote ostaje pouka da se “agentic” AI ne može procjenjivati samo po demo snimci. Treba ga gledati kao sustav rada, a sustavi rada uvijek proizvode nuspojave.
