AI u ratovima: tko zaista povlači konce?

Američko ministarstvo obrane objavilo je da će AI igrati ključnu ulogu u nadolazećim vojnim operacijama, ali ne onako kako se to prodaje javnosti. Umjesto apokaliptičnih scenarija autonomnih robota koji odlučuju o životu i smrti, stvarnost je puno prozaičnija: AI se koristi za optimizaciju logistike, analizu satelitskih slika i filtriranje obavještajnih podataka.

Pentagonov projekt 'Replicator' najavio je proizvodnju tisuća jeftinih dronova opremljenih osnovnim algoritmima za autonomno djelovanje, ali bez samostalnog donošenja odluka o napadima – barem ne još. No, ono što je zanimljivije jest kako se ta priča preklapa s kulturnim ratovima.

AI alati koji su navodno neutralni zapravo počinju oblikovati političke narative, bilo kroz algoritme za moderaciju sadržaja na društvenim mrežama, bilo kroz generativne modele koji stvaraju dezinformacije.

Izvještaj MIT Technology Review otkriva da su ruske i kineske agencije već godinama koristile jeftine verzije ChatGPT-a za stvaranje lažnih vijesti, dok se na Zapadu isti alati reklamiraju kao 'demokratski' pomagači. Tko god misli da je ovo samo tehnički detalj, vara se.

Kada AI odlučuje što smijemo vidjeti, a što ne, ili koje vijesti su 'dovoljno važne' za širenje, tada tehnologija postaje oruđe – bilo za vojsku, bilo za politiku. No, postoji jasna razlika između onoga što se prikazuje na konferencijama i onoga što se zaista koristi na terenu.

Demo verzije AI sustava često pokazuju impresivne scenarije odlučivanja u realnom vremenu, ali u praksi većina tih sustava još uvijek zahtijeva ljudsku potvrdu. Primjerice, izraelski obrambeni sustav 'Iron Dome' koristi AI za predviđanje putanja raketa, ali konačnu odluku o presretanju donosi ljudski operator.

I na kraju, dok se kompanije poput Microsofta i Palantira hvale 'human-in-the-loop' modelima, stvarnost je da većina tih sustava zapravo djeluje na rubu ljudskog nadzora – ili čak bez njega. Pravi signal ovdje nije koliko smo blizu potpuno autonomnih oružja, već koliko smo daleko od sposobnosti da ih zaustavimo. To je zapravo glavno pitanje koje treba postaviti.