TechCrunch: samopoboljšavajući AI traži dokaz prije nove velike utrke

TechCrunch opisuje novi pomak u jeziku AI industrije: umjesto da se sve vrti oko AGI-ja, dio laboratorija sada govori o RSI-ju, odnosno recursive self-improvement. Ideja je jednostavna samo na prvoj rečenici. Sustav koji pomaže poboljšati vlastitu sljedeću verziju mogao bi ubrzati istraživanje, smanjiti ručni rad i možda promijeniti način na koji se grade napredni modeli.

Problem počinje čim se pita što bi se točno trebalo dogoditi da netko kaže: da, RSI je postignut. Ako model napiše bolji kod za treniranje drugog modela, je li to RSI? Ako predloži arhitekturu koju ljudi zatim testiraju, je li to dovoljno? Ako sustav automatski provodi eksperimente, ali ljudi i dalje određuju ciljeve, granice i sigurnosne provjere, je li to samopoboljšanje ili samo sofisticiran alat u istraživačkom lancu?

Zato RSI vrlo brzo počinje nalikovati na umjetnu opću inteligenciju: pojam koji je dovoljno velik da privuče kapital, talente i pažnju, ali dovoljno mekan da izbjegne jednoznačnu provjeru. AGI je godinama služio kao sjeverna zvijezda industrije, no različiti akteri pod njim podrazumijevaju različite pragove. RSI riskira isti obrazac, samo s novom tehničkom estetikom.

Važna razlika je u tome što RSI zvuči operativnije. Ne traži nužno model koji može raditi sve što čovjek može; traži sustav koji može poboljšavati proces izgradnje budućih sustava. To je privlačnije za laboratorije jer se može vezati uz konkretne komponente: automatizirano programiranje, evaluacije, dizajn eksperimenata, optimizaciju treninga, analizu pogrešaka i rad s istraživačkim agentima. No upravo zato definicija mora biti stroža, ne labavija.

Ako laboratorij tvrdi da radi na RSI-ju, ključno pitanje nije zvuči li to impresivno, nego gdje se nalazi petlja povratne sprege. Tko postavlja cilj? Tko mijenja model? Tko provjerava rezultat? Je li poboljšanje stabilno kroz više generacija ili je riječ o jednokratnom dobitku? Bez takvih pitanja RSI ostaje slogan za automatizaciju istraživanja, a ne dokaz kvalitativnog skoka.

Tu ulazi i sigurnosna dimenzija. Sustav koji pomaže stvarati snažnije sustave mora imati jasne kontrole, evaluacije i trag odluka. NIST AI Risk Management Framework nije specifičan za RSI, ali podsjeća na minimum ozbiljnog pristupa: mapirati rizike, mjeriti ponašanje, upravljati promjenama i pratiti posljedice. Kod RSI-ja taj minimum postaje važniji jer se brzina iteracije može pretvoriti u brzinu gomilanja neprovjerenih odluka.

Zasad je najpošteniji zaključak da RSI nije nova magična granica, nego novo bojno polje definicija. Može biti stvaran istraživački smjer, osobito ako ubrza korisne alate za znanstveni i softverski rad. Ali dok ne dobije mjerljive kriterije, ostat će ono što je AGI već predugo: pojam koji više govori o ambiciji industrije nego o provjerenom stanju tehnologije.