Kad etičke granice AI tvrtke postanu zakon za Pentagon
The bills would turn private AI red lines into public national-security constraints.📷 Generated editorial visual / Tech&Space
- ★Anthropic se sukobljava s Pentagonom oko autonomnih oružja
- ★Dva demokratska senatora predlažu zakone za ljudsku kontrolu AI
- ★Zakonske mjere mogle bi postati presedan za etičku regulaciju AI
Sukob između Anthropica i Pentagona proširio se na Kongres, gdje demokratski senatori nastoje zakonski ograničiti uporabu umjetne inteligencencije u autonomnim oružjima i masovnom nadziranju. Senator Adam Schiff (D-CA) priprema zakon koji bi „zakonski usidrio“ Anthropicove crvene linije, osiguravajući da konačne odluke o životu i smrti donose ljudi, a ne algoritmi.
U međuvremenu, senatorica Elissa Slotkin (D-MI) već je predstavila AI Guardrails Act, koji zabranjuje Ministarstvu obrane SAD-a uporabu AI za aktiviranje nuklearnog oružja ili praćenje građana bez ljudske intervencije. Poticaj za zakonodavne mjere dolazi iz sukoba koji je eskalirao za vrijeme Trumpove administracije, kada je Anthropic stavljen na crnu listu zbog odbijanja suradnje s Pentagonom na projektima koji bi uključivali potpuno autonomne sustave. Tvrtka je kasnije podnijela tužbu protiv vlade, optužujući je za kršenje ustavnih prava. Schiffov prijedlog posebno cilja na „nedopuštene svrhe“ AI, uključujući potpuno autonomna oružja i domaće masovno nadziranje, dok Slotkinin zakon dodatno ograničava uporabu AI u kritičnim sigurnosnim scenarijima prema izvješću The Verge.
Autonomno oružje i masovni nadzor više nisu samo etička politika kompanije, nego prijedlog državne granice.
Human oversight is the central line in the autonomous weapons and surveillance fight.📷 Generated editorial visual / Tech&Space
Iako su detalji prijedloga još nejasni, jasno je da bi njihovo usvajanje moglo postaviti važan presedan za buduću regulaciju AI tehnologija. Anthropic, kao jedna od vodećih tvrtki u razvoju naprednih jezičnih modela poput Claudea, već je postavila etičke okvire koji zabranjuju uporabu njenih sustava za autonomna oružja ili masovno nadziranje.
Ako Kongres prihvati te smjernice kao zakonsku normu, to bi moglo utjecati na druge tehnološke tvrtke koje surađuju s vladinim agencijama. Međutim, prijedlozi se suočavaju s izazovima, uključujući moguć otpor republikanskih senatora i lobističke napore obrambene industrije. Ključno pitanje je hoće li zakoni biti dovoljno precizni da spriječe zlouporabu AI, a istovremeno dovoljno fleksibilni da omoguće inovacije u vojnoj tehnologiji. Zanimljivo je da su oba prijedloga dobila podršku dijela tech zajednice, koja u njima vidi korak prema odgovornijoj uporabi AI prema izvorima bliskim zakonskim raspravama.
Za provjeru konteksta, korisno je usporediti The Verge AI, NIST AI RMF i FTC AI guidance.
