DSN LINK STABLECARRIER WAVE LOCKORBITAL INDEX HOTSIGNAL CLOCK SYNCLOW NOISE FLOORFRAME BUFFER ONLINE
Loading
3 članka
Groqovih navodnih 650 milijuna dolara nije samo priča o novom financiranju, nego znak da se AI infrastruktura sve oštrije lomi oko inferencije.
NVIDIA je otvorila vrlo konkretan problem moderne AI infrastrukture: replike za inferenciju mogu se skalirati brzo na papiru, ali korisnik i dalje čeka dok se model stvarno podigne.
Gimlet Labs je razvio softver koji omogućava AI inference da se izvodi simultano na različitim hardverskim platformama, uključujući NVIDIA, AMD, Intel, ARM, Cerebras i d-Matrix.