PLDR-LLMs: Razmišljaju li ili samo simuliraju kritičnost?

Preprint s arXiva (2603.23539v1) tvrdi da PLDR-LLMs obučeni na samorganiziranoj kritičnosti pokazuju razmišljanje tijekom inferencije. Autori opisuju kako se deduktivni izlazi u kritičnom stanju ponašaju poput drugog reda faznih prijelaza – korelacijska duljina divergira, a sustav postiže metastabilno ravnotežno stanje.

To zvuči impresivno, ali kako često biva s AI istraživanjima, ključno je razlikovati matematički aparat od praktične primjene. Problem koji ovaj rad ne adresira je kako se ta 'razmišljanja' manifestiraju izvan laboratorijskih uvjeta.

Ako je korelacijska duljina zaista divergirala, to bi trebalo biti vidljivo u realnim scenarijima – no autori navode samo deduktivne izlaze kao dokaz. To podsjeća na stotine ranijih radova koji su obećavali 'univerzalne razrede' ili 'renormalizacijske grupe' u neuronskim mrežama, a završili kao zanimljive teorijske konstrukcije bez skalabilne primjene.

Još jedan detalj koji nedostaje: kako se ovaj pristup nosi s šumom u podacima? Kritičnost je osjetljiva na perturbacije, a stvarni skupovi podataka rijetko su čisti kao teorijski modeli.

Ako se ova metoda pokaže robusnom, mogli bismo vidjeti pomak u načinu kako se obučavaju veliki modeli – s fiksnih arhitekturnih hiperparametara na dinamičke sustave koji se samoreguliraju. No, to je velika 'ako'.

Trenutni open-source signali su mukli: nekoliko diskusija na Hugging Face forumima, ali bez jasnog konsenzusa ili replikacije rezultata. GitHub repozitorij povezan s radom ima samo nekoliko zvjezdica, što sugerira da zajednica još ne vidi dovoljnu praktičnu vrijednost.

Za razvijatelje, prava vijest nije 'razmišljanje kritičnosti', već činjenica da su autori otvorili novi kanal za optimizaciju obuke. Umjesto da se fokusiraju na klasične gubitne funkcije, istraživači sada mogu eksperimentirati s kontrolom faznih prijelaza kao dodatnim alatom.

No, bez čvršćih benchmark rezultata na standardnim zadacima (npr. GSM8K ili MMLU), teško je procijeniti koliko je ovaj pristup zaista bolji od postojećih.

Dok autori traže univerzalne zakone u LLM-ovima, tržište i dalje traži pouzdane performanse. Ako će se PLDR-LLM-i uspješno implementirati, morat će se pokazati kao praktična rješenja koja donose konkretna poboljšanja. Sadašnji rad je samo početak, a dalje istraživanje je potrebno za potpunu ocjenu ove tehnologije.