Karpathy prelazi u Anthropicov tim za pre-training Claudea
A frontier AI training control room centered on Claude-scale pre-training, with a researcher silhouette facing live training curves and compute clusters, suggesting Karpathy’s return to large-scale R&D.📷 AI-generated image / TECH&SPACE
- ★Andrej Karpathy ovog je tjedna počeo raditi u Anthropicovu pre-training timu za Claude.
- ★Pre-training ostaje jedan od najskupljih i najintenzivnijih dijelova razvoja frontier modela.
- ★Anthropic je paralelno doveo Chrisa Rohlfa u frontier red team za napredna sigurnosna testiranja.
Andrej Karpathy nije otišao u Anthropic da bude dekorativno ime na popisu savjetnika. Prema TechCrunchovu izvještaju, pridružio se pre-training timu koji radi na velikim treninzima za Claude, pod vodstvom Nicka Josepha. To je najtvrđi dio industrijske AI infrastrukture: skupi klasteri, dugi eksperimenti, odluke koje se ne mogu lako poništiti i modeli čije se ponašanje oblikuje mnogo prije finog podešavanja i proizvoda.
Karpathyjev profil zato dobro sjeda u tu fazu. Bio je među suosnivačima OpenAI-ja, vodio računalni vid i AI u Tesli, uključujući rad oko Full Self-Drivinga i Autopilota, zatim se 2023. kratko vratio u OpenAI prije odlaska 2024. U javnoj poruci naveo je da se pridružio Anthropicu jer će sljedećih nekoliko godina na fronti LLM-ova biti posebno formativno, te da se želi vratiti istraživanju i razvoju. Dodao je i da ostaje duboko vezan uz obrazovanje te da se planira s vremenom vratiti tom radu, što je izravna referenca na njegov obrazovni projekt Eureka Labs.
Jedan od najprepoznatljivijih istraživača iz OpenAI/Tesla kruga vraća se velikim treninzima modela, dok Anthropic paralelno pojačava frontier red team.
A security red-team lab view where model evaluation dashboards, threat probes and defensive cyber traces intersect, tying Rohlf’s hire to Anthropic’s safety testing layer.📷 AI-generated image / TECH&SPACE
Ovo nije vijest o jednom životopisu, nego o tome gdje se sada traži prednost. U ranim valovima generativnog AI-ja javnost je najlakše vidjela chat sučelja, cijene pretplate i demo snimke. No stvarna razlika između vodećih laboratorija često nastaje u pre-trainingu: u izboru podataka, skali treninga, stabilnosti velikih runova, evaluaciji ponašanja prije izlaska modela i sposobnosti da se iz računalno skupog pokušaja izvuče model koji nije samo veći, nego korisniji i predvidljiviji.
Anthropic time šalje poruku da Claudeova sljedeća faza neće ovisiti samo o proizvodnim integracijama, nego o dubokoj istraživačkoj disciplini. To je posebno važno jer se natječe s OpenAI-jem i Googleom u prostoru gdje se tehnički pomaci brzo pretvaraju u poslovni pritisak, a pogreške u treningu mogu značiti izgubljene mjesece i ogromne računalne troškove.
Drugi dio iste priče je sigurnost. Anthropic je doveo i Chrisa Rohlfa u frontier red team, skupinu koja stres-testira napredne modele protiv ozbiljnih prijetnji. Rohlf ima više od 20 godina iskustva u kibernetičkoj sigurnosti, uključujući rad u Yahooovu sigurnosnom timu The Paranoids i šest godina u Meti. Njegova izjava da AI može dramatično poboljšati kibernetičku sigurnost zvuči kao ambicija, ali i kao priznanje rizika: modeli koji bolje pišu, analiziraju i planiraju mogu pomoći obrani, no isti kapaciteti moraju se testirati prije nego što postanu operativni problem.
Karpathyjev dolazak zato treba čitati zajedno s Rohlfovim. Jedan potez jača laboratorij na strani izgradnje modela, drugi na strani provjere što ti modeli mogu učiniti pod pritiskom. Za Anthropic, to je vrlo jasan raspored prioriteta: skalirati Claude, ali pritom pokazati da sigurnosni okvir nije naknadna fusnota. Za ostatak tržišta, poruka je hladna i konkretna: rat za ljude koji znaju trenirati i lomiti frontier modele tek ulazi u ozbiljniju fazu.
