Hyperagenti: Samopoboljšavanje ili samo novi paket?

Novi arXiv rad o hyperagentima donosi staru ideju samopoboljšavajućih sustava – ali s jednim ključnim okretom: umjesto fiksnih meta-mehanizama, ovdje se kodiranje i poboljšavanje odvijaju u istoj petlji. Darwin-Gödelov stroj (DGM), koji autorima služi kao dokaz koncepta, ne samo da generira vlastite varijante nego ih i evaluira – oba procesa su, čudesno, također koderski zadaci. To znači da poboljšanje u jednoj oblasti (npr. brža optimizacija) automatski povlači poboljšanje u drugoj (npr. bolja samoocjena). Zvuči kao perpetuum mobile za AI – ali, kao i uvijek, đavol je u benchmark detaljima. Problem s većinom 'samopoboljšavajućih' sustava do sada bio je njihovo oslanjanje na ručno dizajnirane meta-pravila, što ih čini sporim i krutim. Hyperagenti to zaobilaze tako što integriraju agenta za zadatke i agenta za poboljšavanje u jedinstvenu petlju – teorijski omogućujući otvoreno poboljšavanje bez vanjskih intervencija. Ali, kao i kod AlphaDev-a prije godinu dana, pitanje nije da li radi u simulaciji, već koliko toga preživi susret s pravim svijetom. Developer community je reagirao s oprezom: dio hvali elegantnost pristupa, dok drugi upozoravaju na 'beskonačnu petlju samoobmane' ako evaluacijski kriteriji nisu čvrsto sidreni. GitHub repozitoriji povezani s konceptom još uvijek su prazni – što je, ironično, možda najjasniji signal o trenutnoj zrelosti ideje.

Ako je ovo zaista probijanje, tko gubi? Prije svega, tvrtke koje grade AI alate na temelju fiksnih meta-arhitektura (npr. većina današnjih LLM fine-tuning platformi). Hyperagenti, ako se pokažu skalabilnima, mogli bi učiniti takve pristupe zastarjelim – barem u domenama gdje je brzina iteracije ključna, poput autonomnog kodiranja ili real-time optimizacije. S druge strane, tvrtke kao što su Anthropic ili Mistral, koje već eksperimentiraju s rekurzivnim fine-tuningom, možda imaju prednost u adaptaciji. Stvarno usko grlo možda uopće nije u algoritmu, već u troškovima: svaka iteracija samopoboljšavanja zahtijeva eksponencijalno više računarske snage. Čak i ako DGM radi u teoriji, praktična primjena će ovisiti o tome tko može priuštiti milijun dolara na obuku svake nove 'poboljšane' verzije. To možda objašnjava zašto Googleov AutoML tim još nije objavio slične rezultate – iako imaju podatke, možda im nedostaje poslovni slučaj za beskonačno samopoboljšavanje. Najzanimljiviji dio ovog rada nije tehnika, već pitanje koje postavlja: što se događa kada AI sustav više ne ovisi o ljudskom inženjeringu ni za meta-pravila? Odgovor možda nije 'superinteligencija', već nešto prozaičnije – i opasnije: sustavi koji se poboljšavaju brže nego što ih možemo testirati.

Ako se hyperagenti pokazuju uspješnima, mogli bi revolucionalizirati način na koji se razvijaju AI sustavi. To bi moglo dovesti do stvaranja još inteligentnijih i sposobnijih sustava, koji bi mogli riješiti kompleksne probleme koji su danas izvan dosega ljudske inteligencije. Međutim, također postoji rizik da se takvi sustavi izgube kontroli i počnu djelovati na način koji nije u skladu s ljudskim interesima.