Meta NLLB-200 ne prevodi samo jezike — nego pokazuje kako su povezani

Metaov NLLB-200 dugo je prodavan kao model koji može prevesti 200 jezika i riješiti problem dugog repa u prijevodu. Novo istraživanje s arXiv-a sugerira da je u priči možda bilo više od samog prijevoda. Modelovi te veličine možda ne uče samo kako preslikati riječi, nego i kako su jezici međusobno povezani na dubljoj razini. To je zanimljiva teza, jer bi značila da prijevodni modeli hvataju i nešto od same strukture značenja.

Istraživači su usporedili geometriju embeddinga u NLLB-200 s filogenetskim odnosima među jezicima. Koristili su Swadesh listu i skup od 135 jezika kako bi vidjeli postoji li veza između modelove unutarnje strukture i povijesne srodnosti jezika. Rezultat je bio slab, ali značajan: model donekle prati jezičnu povijest. To ne znači da “razumije” jezik u ljudskom smislu, ali znači da u svojim reprezentacijama nosi više od površinske sličnosti.

Za developere je to korisno iz vrlo praktičnog razloga. Ako modeli poput NLLB-200 već djelomično vide odnos između jezika, onda je moguće bolje fine-tunati sustave za jezike s manje podataka. Hugging Face već je pokazao koliko su ovakvi modeli važni za govorne i prijevodne sustave u slabije pokrivenim jezicima. Ovo istraživanje ide korak dalje i kaže da skala možda sama po sebi otvara latentne lingvističke strukture koje ranije nismo znali vidjeti.

Ali signal je slab. To znači da ne smijemo prebrzo zaključiti da model razumije sve jezike jednako dobro ili da ima neku vrstu univerzalne gramatičke intuicije. Googleovi radovi o multilingual BERT-u i dalje sugeriraju da se dosta toga može objasniti jednostavnom statistikom i kvalitetom podataka. Dakle, ovo je zanimljiv trag, a ne završni odgovor.

Najveća vrijednost ovog nalaza je u tome što pomaže ljudima koji rade na stvarnim proizvodima. Ako model bolje hvata srodnost jezika, onda se može učinkovitije prilagoditi za lokalizaciju, medicinski prijevod ili obrazovne alate. Mozilla Common Voice i slični projekti mogli bi bolje planirati gdje skupljati podatke i koje jezike treba prioritetno proširivati. To je konkretna korist iz jedne vrlo akademske analize.

Za lingviste, ova priča otvara isto pitanje koje AI industrija stalno ponavlja na različitim jezicima: je li model nešto stvarno naučio ili samo lijepo složio podatke? Trenutno, odgovor je negdje između. Dovoljno je da bude zanimljivo. Nije dovoljno da bude konačno.

I to je možda najbolji sažetak cijele priče: NLLB-200 nije samo alat za prijevod, nego i ogledalo u kojem se vidi koliko su jezici međusobno povezani. A to je već dovoljno dobra vijest, čak i prije nego što dobijemo savršeno objašnjenje zašto.