Tesla mora obraniti brojke iza povjerenja u Full Self-Driving

Reutersova istraga koju je prenio Electrek pogađa Teslu ondje gdje je priča o autonomiji najosjetljivija: u povjerenje. Prema članku, Tesline javne tvrdnje o sigurnosti sustava Full Self-Driving oslanjaju se na metodologiju koju su sugovornici opisali kao duboko manjkavu, a dio ljudi koji su trenirali AI model ne bi vjerovao tehnologiji da ih sama vozi.

To nije tehnička fusnota. Full Self-Driving se u Teslinu ekosustavu prodaje kao napredni softverski paket, ali vozila s tim sustavom i dalje se kreću po javnim cestama, među pješacima, biciklistima i vozačima koji nisu pristali biti dio eksperimenta. Ako sigurnosne statistike ne razlikuju dovoljno jasno uvjete vožnje, vrstu ceste, razinu nadzora vozača ili situacije u kojima se sustav isključuje, tada brojka prestaje biti dokaz i postaje marketinški rekvizit.

Prema dostupnom sažetku, Reuters je razgovarao s devet bivših Teslinih data labelera, jednim bivšim inženjerom za samovožnju i 11 istraživača prometne sigurnosti. Ta kombinacija izvora važna je jer povezuje dvije razine problema: unutarnji rad na treniranju sustava i vanjsku procjenu tvrdnji o sigurnosti. Data labeleri nisu celebrity kritičari niti konkurentski menadžeri. Njihov posao je označavati prizore i ponašanja koja AI sustav mora naučiti prepoznati. Kad takvi ljudi kažu da ne vjeruju sustavu, to ne dokazuje svaku optužbu, ali pomiče teret objašnjenja na Teslu.

Najsporniji dio priče je način na koji se sigurnost mjeri. Tesla već godinama javno ističe statistike koje sugeriraju da su njezina vozila sigurnija uz napredne sustave asistencije. No istraživači prometne sigurnosti redovito upozoravaju da usporedbe moraju biti očišćene od konteksta: vozi li se pretežno autocestom ili gradom, po danu ili noću, u dobrim vremenskim uvjetima ili u kompleksnom prometu. Bez toga, usporedba može izgledati impresivno, a da zapravo ne odgovara na osnovno pitanje rizika.

Zato je ova priča šira od Tesle. Američka NHTSA već godinama pokušava držati korak s automatiziranim sustavima vožnje, dok proizvođači uvode funkcije brže nego što javni nadzor može stabilno pratiti njihove stvarne performanse. Kada se sustav naziva Full Self-Driving, iako zahtijeva ljudski nadzor, jezik postaje dio sigurnosne arhitekture. Vozač koji vjeruje brendu drugačije će reagirati od vozača koji sustav doživljava kao ograničeni alat asistencije.

Za Teslu je posebno neugodno što kritika dolazi iz lanca koji hrani sam AI. Treniranje autonomne vožnje nije magija, nego industrijski proces označavanja, filtriranja i optimizacije scenarija. Ako su ljudi iz tog procesa skeptični prema završnom proizvodu i prema statistikama kojima se on brani, onda rasprava više nije samo o pojedinačnim incidentima, nego o institucionalnoj kulturi mjerenja.

Zaključak nije da je svaki Teslin sustav beskoristan niti da je svaka vožnja s FSD-om opasna. Zaključak je precizniji i neugodniji: javne sigurnosne tvrdnje moraju biti provjerljive, usporedive i objašnjene dovoljno jasno da ih mogu testirati neovisni istraživači. Bez toga, autonomija ostaje proizvod koji traži povjerenje prije nego što je pokazao računicu koja to povjerenje zaslužuje.