Tencentov prevoditelj za telefon pojačava utrku za AI bez oblaka
Offline telefonska scena prikazuje prijevod na uređaju, a ne u oblaku.📷 AI-generated / Tech&Space
- ★Tencentov model od 440 MB pokriva 33 jezika, pet dijalekata ili manjinskih jezika i 1.056 smjerova prijevoda
- ★Hugging Face kartica navodi 1,25-bitnu kvantizaciju, Android APK i offline rad bez prikupljanja podataka
- ★Tvrdnje o usporedbi s Google Translateom treba čitati kao vendor tvrdnje dok ih ne potvrde neovisni testovi
Tencentov Hy-MT1.5-1.8B-1.25bit nije samo još jedan mali model s lijepim grafikonom. Prema The Decoderu, riječ je o offline prevoditelju koji stane u 440 MB i pokriva 33 jezika, pet dijalekata ili manjinskih jezika te 1.056 smjerova prijevoda.
Primarna Hugging Face kartica potvrđuje širi paket: modeli su objavljeni s težinama i GGUF formatima, Android demo APK postoji, a kartica navodi rad bez mreže i bez prikupljanja podataka. Za korisnika to znači dvije konkretne prednosti. Prijevod može raditi u avionu, podzemnoj željeznici ili slaboj mreži, a osjetljiv tekst ne mora odmah napustiti uređaj.
Tehnički trik je brutalna kompresija. The Decoder navodi da se model smanjuje s 3,3 GB na 440 MB pri 1,25 bita po parametru. Hugging Face stranica za srodnu 2-bitnu varijantu opisuje višefazni trening, destilaciju i kvantizaciju, a za 1,25-bitnu varijantu navodi još manji paket. To je rubni AI u najpraktičnijem smislu: dovoljno malen da se uopće može zamisliti na telefonu, a dovoljno specijaliziran da ne glumi opći chatbot.
Hy-MT1.5 pokazuje koliko je agresivna kompresija promijenila rubni AI, no stvarna vrijednost ovisi o jezicima, uređajima i rečenicama koje nisu birane za demo.
Metafora kompresije prikazuje smanjivanje modela s cloud razine na razinu telefona.📷 AI-generated / Tech&Space
Tencent tvrdi da model na standardnim mjerenjima parira komercijalnim servisima i većim otvorenim modelima. To je zanimljivo, ali nije isto što i dokaz za stvarni svijet. Prevoditeljski benchmark obično voli uredne rečenice, poznate domene i jasne parove jezika. Korisnici nose miješani jezik, sleng, imena, pogreške u pisanju, fotografirane natpise i medicinske ili pravne nijanse.
Zato tvrdnju da model "pobjeđuje Google Translate" treba držati u navodnicima dok ne prođe neovisne testove. Googleov servis nije samo model, nego cijeli proizvodni sustav s godinama korekcija, jezičnih parova, korisničkih signala i UX rubova. Tencentov adut nije nužno apsolutna kvaliteta, nego lokalnost: dobar prijevod bez mreže može biti važniji od savršenijeg prijevoda koji nije dostupan.
Najzanimljivija publika nisu samo putnici s najnovijim flagship telefonom. To su aplikacije za dostupnost, terenski rad, humanitarne situacije, škole i tržišta gdje je cloud nepouzdan ili regulatorno nepoželjan. Ako model radi dovoljno dobro na srednjim uređajima, programeri dobivaju jezičnu komponentu koju mogu ugraditi bez stalne API ovisnosti.
Zaključak je oprezno pozitivan. Tencent je pokazao da se prevoditeljski model može stisnuti do veličine koja mijenja distribuciju proizvoda. Ali kvaliteta prijevoda ne živi u veličini datoteke. Živi u neurednim razgovorima, jezičnim rubovima i nezgodnim rečenicama koje demo ne bira. Tamo će se vidjeti je li 440 MB proboj ili samo impresivno zapakiran benchmark.
