Vanberni GPU pretvara igraću ruku u lokalni AI stroj

Plugable Thunderbolt 5 AI Enclosure dolazi kao prvi ozbiljan pokušaj da se vanjski GPU pretvori u mobilni AI računar. Kućište od 599 dolara, s 850W napajanjem i softverskim stackom, omogućava lokalno pokretanje velikih jezičnih modela na uređajima kao što je Steam Deck ili ROG Ally.

Prema testovima na XDA Developersu, rješenje radi besprijekorno na Windowsu, dok macOS ostaje van igara zbog nedostatka Nvidia drivera za Apple Silicon. Što ovaj potez zapravo mijenja?

Umjesto da korisnici moraju nositi stolni PC za LLM inferencu, sada mogu imati moćno AI rješenje u džepu. Za 599 dolara dobiva se kompletna platforma - od hardvera do optimiziranog softvera za AI zadatke.

Ukupna potrošnja od 96W pri inferenci je zanemariva u usporedbi s stolnim rješenjima, što ovaj uređaj čini privlačnim i za razvojne timove i za entuzijaste.

Part 2: Industrija vanjskih GPU-ova imala je brojne pokušaje u prošlosti, ali većina je propala zbog problema s performansama i softverskim ograničenjima. Plugableov uređaj temelji se na Sparkleovom Thunderbolt 5 eGPU kućištu, što sugerira da je ispod haube riječ o ozbiljnoj hardverskoj podršci.

Međutim, cijeli koncept još uvijek ovisi o fizičkoj povezanosti preko Thunderbolta - što znači da mobilnost ima svoje granice. Industrijski implikaciji su jasni: postoji velika potražnja za lokalnim AI rješenjima koja ne zahtijevaju stolne strojeve.

Kada će macOS dobiti podršku? Izvještaj XDA Developersa sugerira da to još nije na vidiku, što Appleovim korisnicima prepušta alternativna rješenja poput M-serije čipova.

Cijeli pokret ipak upućuje na jedan trend: AI odlazi tamo gdje su korisnici, a ne obrnuto. Ovo otvara nove mogućnosti za razvoj i korištenje AI tehnologija u različitim područjima, od gaminga do profesionalnih aplikacija.

Cijeli pokret ka lokalnim AI rješenjima otvara nove mogućnosti za razvoj i korištenje AI tehnologija. Korisnici će moći izvršavati kompleksne AI zadatke bez potrebe za stolnim računarom, što će omogućiti bolju mobilnost i fleksibilnost. Ovo je veliki korak naprijed u razvoju AI tehnologija i otvara nove mogućnosti za budućnost.