Prije AI incidenta, Washington i Peking žele barem broj za poziv
A diplomatic table split between Washington and Beijing, with a thin glowing AI hotline cable running between two closed folders.📷 AI-generated image / TECH&SPACE
- ★Razgovori bi mogli obuhvatiti neočekivano ponašanje modela, autonomno oružje i zloupotrebu otvorenih alata.
- ★Prethodni kanal iz 2023. donio je malo konkretnih ishoda, ali je 2024. potvrđeno načelo ljudske kontrole nuklearnog oružja.
- ★AI hotline bila bi skroman, ali važan sigurnosni mehanizam ako se pretvori u stvarni operativni kanal.
The Decoder prenosi da SAD i Kina razmatraju formalne razgovore o umjetnoj inteligenciji. To ne treba čitati kao nagli izljev povjerenja. Ovo je hladniji signal: AI se dovoljno približio vojnim, sigurnosnim i ekonomskim sustavima da dvije sile moraju barem znati koga nazvati kada nešto krene krivo.
Američko-kineski AI kanal već postoji u slabijoj verziji. Bijela kuća je nakon sastanka u San Franciscu opisala nastavak komunikacije o AI sigurnosti kao dio šire stabilizacije odnosa, a 2024. je potvrđeno načelo da odluke o nuklearnom oružju moraju ostati u ljudskim rukama. To je niska ljestvica. Ali u ovoj temi niska ljestvica je ponekad jedina koja još stoji.
Formalni razgovori o AI-u nisu znak povjerenja, nego priznanje da autonomno oružje, modeli i otvoreni alati traže barem minimalni kanal.
A policy war-room board showing model behavior, autonomous weapons and open-source misuse as separate risk cards.📷 AI-generated image / TECH&SPACE
Najvažniji dio nisu velike deklaracije o 'odgovornom AI-u', nego operativni detalji: neočekivano ponašanje modela, autonomni sustavi, zloupotreba otvorenih alata i mogućnost hotlinea. UN-ov rad na autonomnim oružanim sustavima već pokazuje koliko je teško dogovoriti pravila čak i kada svi tvrde da ne žele nekontrolirano oružje.
Zato bi formalni razgovori bili važni upravo zato što su skromni. Ne bi riješili utrku u čipovima, modele, vojnu primjenu ni pitanje otvorenog koda. Ali mogli bi stvoriti minimum zajedničkog rječnika prije incidenta. U geopolitici AI-a to nije romantično. To je korisno, a korisno je trenutno maksimum optimizma.
