OpenAIova 16 MB izazovna utrka za mlade talente

OpenAI nije objavio još jedan demo na konferenciji — pokrenuo je 'Parameter Golf', konkurenciju u izradi najboljeg modela jezika unutar 16 MB memorije. Cilj je jasan: unutar deset minuta, osam H100 GPU-a i milijun dolara u kreditima preko Runpoda, izabrati osam najboljih da dobiju poziv za posao u lipnju.

Ovo nije obična vježba u kompresiji, već ciljano lovljenje sposobnih rješavača problema koji pronalaze rješenja u neočekivanim okvirima. Iako OpenAI brojke postavlja u prvi plan, stvarna vrijednost je u tome što konkurencija za talente u AI galaksiji postaje sve brutalnija.

Meta je u proteklih godinu dana pohrlila brojnim istraživačima iz OpenAI s plaćama koje se mjere u milijunima, a sada ga ovaj izazov direktno mijenja u lovca na mlade mozgove. Na stranici The Decoder opisano je kako OpenAI cilja na junior istraživače, dok su raniji uspjesi sugerirali da su upravo oni najvredniji resurs u trci za moćnim modelima.

Izazov ima i tehničku dimenziju: unutar 16 MB ne ulazi samo težina modela nego i način na koji se optimizira — kvadracija, rezanje i arhitektonske izmjene moraju biti precizne kao švicarski sat. Ako je ijedan parametar krivo postavljen, cijela konstrukcija kolapsira.

To upravo i čini izazov zanimljivim — ne radi se o klasičnom benchmarku gdje se mjeri točnost, već o sposobnosti inženjera da istovremeno rješavaju više problema uz ograničenja koja su za većinu akademskih rješenja nepremostiva.

Kako bi uopće jedan funkcionalan model mogao stati u 16 MB? Prema dostupnim informacijama, optimizacija je ključna, a konkurencija će morati koristiti tehnike poput kvadratne kvantizacije (8-bit ili čak 4-bit težine) te agresivnog pruninga mreže.

Konkretno, čini se da se radi o modelima sličnim nanoGPT-u ili sličnim mikro modelima koji postižu prihvatljive rezultate na engleskom jeziku, ali uz ekstremnu cijenu memorije. Što se tiče performance, OpenAI nije javno objavio koliku točnost očekuje, ali prema ranijim eksperimentima sličnog tipa, realni usability je daleko od onoga što nude veliki modeli — iako su za Edge uređaje puno praktičniji.

Zabavno je kako se OpenAI direktno pretvara u lovca na talente kroz ovaj izazov. Dok drugi velikani nude milijune za gotove istraživače, ovaj mehanizam omogućava otkrivanje onih koji su sposobni kroz izuzetno ograničen okvir doći do efikasnih rješenja.

Konkurencija od 1. svibnja zaključno s 30. travnjem ima vremena za prijavu, a pobjednici će biti pozvani na razgovore za posao u lipnju. S milijun dolara u kreditima, Runpod osigurava da sudionici ne moraju brinuti o računalnim resursima — što ovaj izazov čini dostupnim i studentima i istraživačima iz manje razvijenih tech ekosustava.

U konačnici, ovaj izazov će biti koristan za sve strane uključene. OpenAI će dobiti nove talente, a mladi istraživači će imati priliku da pokazuju svoje vještine i da se uključe u razvoj umjetne inteligencije. Također, ovaj izazov će potaknuti razvoj novih tehnologija i rješenja u oblasti AI, što će na kraju dovesti do boljeg razvoja cjelokupne industrije.