Tko kontrolira AI u vojsci: Bijela kuća ili startup?

Sukob između Pentagona i startupa Anthropic eskalirao je na način koji rijetko vidimo izvan holivudskih scenarija. Prema dostupnim informacijama, ministar obrane Pete Hegseth dao je jasnu poruku Dariju Amodeiju: ili otvorite vrata svog AI modela za neograničenu vojnu uporabu, ili ćemo vas proglasiti rizikom za nacionalnu sigurnost.

Amodei je odbio – i sada je Anthropic na putu da postane prva AI tvrtka koju federalne agencije moraju izbaciti iz svojih sustava. Ovo nije samo poslovni spor.

Riječ je o fundamentalnom pitanju: tko ima pravo postavljati pravila igre kada je riječ o vojnoj primjeni umjetne inteligencije? Dosadašnji pristup DOD-a sugerira da izvršna vlast vidi AI kao još jedan alat u arsenalu – poput starih dobrih raketa ili bespilotnih letjelica – i ne smatra potrebnim tražiti odobrenje Kongresa ili javnosti.

Trenutačna situacija je paradoksalna: istovremeno dok administracija pokušava prisiliti Anthropic na popuštanje, ona sama kreira presedan koji će se kasnije teško ignorirati. Ako federalne agencije mogu jednostavno označiti jednu tvrtku kao 'rizik' i prisiliti ju na izlazak iz tržišta, što sprečava sličan tretman prema drugim kompanijama koje odbiju vojne ugovore?

Part 2: Ono što je možda najzanimljivije u ovoj priči nije sama činjenica sukoba, već što ona otkriva o tržištu vojne AI. Dok su velike tehnološke kompanije poput Googlea i Microsofta već godinama surađivale s DOD-om na raznim projektima – od prediktivne analitike do autonomnih sustava – Anthropic se pozicionirao kao nešto poput 'etičke opcije' u svijetu AI.

Njihovo odbijanje neograničenog pristupa stavlja ih u direktan sukob s vladinom vizijom, ali i potencijalno otvara prostor za nove igrače koji će se pozicionirati kao manje kontroverzne alternative. Međutim, postoji i druga strana priče.

Ako DOD uspije prisiliti Anthropic na popuštanje, to bi moglo postati novi standard: tvrtke će se morati odlučiti između suradnje sa državom i potencijalnog gubitka pristupa cijelom federalnom tržištu. To bi moglo znatno suziti prostor za inovacije koje dolaze izvan tradicionalnih vojno-industrijskih kanala.

Razvoj u zajednici tehničara i istraživača već sada pokazuje podijeljene reakcije. Dio programera vidi ovo kao nužnu obrambenu mjeru, dok drugi upozoravaju da bi takav presedan mogao otvoriti vrata zlouporabi.

Na GitHubu i tehnološkim forumima već se pojavljuju komentari koji dovode u pitanje pravnu osnovu DOD-ovog poteza, ali i dugoročne implikacije za otvoreni kod i slobodu istraživanja.

Pravi signal ovdje je možda manje sama zabrana, a više poruka koju ona šalje: u svijetu vojne AI, demokratski nadzor nije automatska stvar. Ovo će vjerojatno imati velike posljedice za razvoj vojne AI u budućnosti. Sada je važno pratiti kako će se ova situacija dalje razvijati.