George Hotz vidi pravi račun AI kodiranja u bugovima koje tim ne vidi

George Hotz, programer poznat po oštrom odnosu prema tehnološkim prečacima, iznio je jednu od tvrđih kritika novog vala AI alata za programiranje. Prema izvještaju The Decodera, Hotz nakon šest mjeseci testiranja tvrdi da će coding agenti temeljeni na velikim jezičnim modelima postati “jedna od najskupljih pogrešaka” u softverskom razvoju.

Njegova poanta nije da takvi alati ne rade ništa korisno. Upravo suprotno: problem počinje zato što rade dovoljno dobro da uvjere tim kako je posao već daleko odmaknuo. LLM može brzo složiti prototip, predložiti strukturu projekta, napisati funkcije i popuniti praznine koje bi inače tražile sate ručnog rada. No Hotzov prigovor je da se kvaliteta lomi na detaljima, ondje gdje softver zapravo postaje proizvod.

To je bitna razlika. Loš prototip se lako odbaci. Loš prototip koji izgleda uvjerljivo ulazi u repozitorij, prolazi kroz površnu reviziju i počinje proizvoditi dug koji tim ne vidi odmah. U toj fazi AI ne samo da ubrzava pisanje koda, nego ubrzava i širenje pretpostavki koje nitko nije provjerio. Bugovi nisu nužno veliki, dramatični ni odmah vidljivi. Mogu biti sitni rubni slučajevi, krive pretpostavke o stanju aplikacije, preskočene provjere ili kod koji se ponaša korektno samo u najlakšem scenariju.

Zato je ova rasprava ozbiljnija od uobičajenog sukoba između skeptika i prodavača alata. Coding agenti se već guraju kao sljedeći sloj razvojnog procesa, od asistiranog pisanja funkcija do poluautonomnog rada na zadacima. Dokumentacija za alate poput GitHub Copilota i OpenAI Codexa pokazuje smjer industrije: manje praznog ekrana, više delegiranja zadataka modelu, brži prijelaz od zahtjeva do pull requesta.

Hotzova kritika pogađa upravo taj prijelaz. Ako agent generira kod koji izgleda uredno, ali slabo razumije lokalne konvencije, testnu matricu, sigurnosne pretpostavke ili dugoročno održavanje, tada razvojni tim ne dobiva samo pomoćnika. Dobiva novog proizvođača rizika. Najskuplji dio softvera često nije tipkanje, nego razumijevanje posljedica promjene. Ako se taj dio preskoči, račun stiže kasnije.

To ne znači da AI alati nemaju mjesto u programiranju. Razumnija slika je manje spektakularna: mogu ubrzati istraživanje, skiciranje, refaktoriranje malih dijelova i pisanje pomoćnog koda, ali ne zamjenjuju inženjersku odgovornost. Što je sustav kritičniji, što su zahtjevi stroži i što je kod stariji, to je opasnija ideja da agent može samostalno “riješiti” problem bez duboke revizije.

Hotzova izjava zato funkcionira kao upozorenje investitorima i razvojnim timovima. Pravo pitanje nije mogu li coding agenti proizvesti više koda. Mogu. Pitanje je mogu li proizvesti manje nevidljivog rizika. Ako je odgovor ne, tada brzina prestaje biti prednost i postaje trošak.