AI ratovanje više nije hipotetska rasprava u Ženevi
Ženevska rasprava o autonomnom oružju sada se sudara s operativnom stvarnošću vojnog AI-ja.📷 AI-generated image / TECH&SPACE
- ★UN-ov CCW u Ženevi već godinama raspravlja o smrtonosnim autonomnim oružanim sustavima, ali tempo politike zaostaje za tempom vojne primjene.
- ★The Verge priču gradi oko pomaka od hipotetskih razgovora iz 2017. prema današnjoj stvarnosti u kojoj AI sve više ulazi u ratni lanac.
- ★Najvažnije pitanje nije samo zabrana stroja, nego ljudska kontrola, odgovornost zapovjednog lanca i jasne crvene linije za autonomno djelovanje.
Kada je Branka Marijan u studenom 2017. sjedila na petodnevnim sjednicama u Ženevi, rasprava o smrtonosnim autonomnim sustavima još je mogla zvučati kao vježba iz buduće etike. Forum je bio Convention on Certain Conventional Weapons, UN-ov okvir za oružja koja proizvode neprihvatljive ili neselektivne učinke. Tema su bili sustavi koji bi mogli birati i napadati ciljeve bez izravne ljudske odluke. U to vrijeme velik dio razgovora još se vrtio oko hipotetskog pitanja: što ako rat jednom budu vodili “killer robots”?
Prema izvještaju The Vergea, taj je ton danas zastario. Ne zato što je svijet dobio uredno označenu novu kategoriju strojeva, nego zato što se AI postupno uvukao u dijelove vojnog lanca gdje granice nisu čiste: nadzor, obradu podataka, selekciju ciljeva, preporuke zapovjednicima i sve brže cikluse odlučivanja. To je politički nezgodnije od filmske slike robota s oružjem, jer se opasnost ne pojavljuje kao jedan uređaj koji se može jednostavno zabraniti. Pojavljuje se kao sloj automatizacije unutar postojećih sustava.
Zato je pitanje “autonomnog oružja” preusko ako se svodi samo na fizičku platformu. Relevantnija je kontrola. Tko razumije što sustav predlaže? Tko može zaustaviti napad? Tko odgovara ako algoritamska procjena pogrešno poveže uzorak, objekt ili osobu s legitimnim ciljem? UN-ova stranica o Group of Governmental Experts on lethal autonomous weapons systems pokazuje koliko se dugo ta rasprava pokušava prevesti u diplomatski jezik, ali i koliko je teško dogovoriti obvezujuće crte.
UN-ove rasprave o autonomnom oružju krenule su iz scenarija o budućim robotima. Danas je pitanje gdje povući crvene linije za vojne sustave koji već ulaze u borbeni lanac.
Najkritičnija točka nije samo algoritam, nego trenutak u kojem čovjek navodno zadržava kontrolu.📷 AI-generated image / TECH&SPACE
U tehničkom smislu, ključni rizik nije samo “AI koji odlučuje sam”. Rizik je operativni pritisak da se ljudska odluka pretvori u formalnost. Kada sustav filtrira podatke, rangira prijetnje i ubrzava reakciju, čovjek u petlji može postati čovjek na kraju toka, osoba koja klikom potvrđuje nešto što više nema vremena ozbiljno provjeriti. Takva arhitektura ne mora izgledati kao potpuna autonomija da bi imala isti praktični učinak: smanjuje prostor za sumnju, provjeru i odgovornost.
To je razlog zašto su crvene linije važnije od apstraktnih definicija. Jedna država može tvrditi da sustav nije autonoman jer čovjek formalno odobrava djelovanje. Druga može tvrditi da je brzina nužna jer protivnik automatizira vlastiti lanac. Treća može gurati razvoj kroz industrijske i vojne programe bez jasne javne rasprave. U takvom okruženju pravila koja ovise samo o dobroj volji neće biti dovoljna. Potrebni su provjerljivi zahtjevi: smislena ljudska kontrola, trag odluka, ograničenja za ciljanje ljudi i zabrana sustava koje zapovjedni lanac ne može objasniti ni nadzirati.
Ovdje se robotika i AI ne pojavljuju kao izolirana tehnologija, nego kao pitanje ratnog upravljanja. Ženeva je zato važna kao mjesto rasprave, ali nije mjesto gdje se problem sam rješava. Ako se politički okvir nastavi kretati sporije od implementacije, buduće sjednice neće raspravljati o tome što bi se moglo dogoditi, nego o tome tko je već dopustio da se granica prijeđe. Dokumenti i procesi, uključujući širi UN-ov rad na razoružanju, imaju vrijednost samo ako iz hipotetskih formula prijeđu u operativna pravila koja vojni sustavi moraju poštovati prije nego što se upotrijebe.
