Washington želi vidjeti najmoćnije AI modele prije nego što dođu do javnosti
The government is moving from reacting to AI releases toward testing before launch.📷 Generated editorial visual / Tech&Space
- ★Google, Microsoft i xAI prvi put daju modelima na pregled prije objave
- ★CAISI već 40 puta ocijenio AI sustave, uključujući OpenAI i Anthropic
- ★Sjedinjene Države jačaju nadzor nad naprednim tehnologijama
Tri najmoćnija imena u umjetnoj inteligenciji – Google DeepMind, Microsoft i xAI – pristala su na nešto što je do sada bilo nezamislivo: dopustiti američkoj vladi da pregleda njihove nove AI modele prije nego što ih objave javnosti. Prema najavi Centra za AI standarde i inovacije (CAISI), agencije pod Ministarstvom trgovine, evaluacije će uključivati "pre-deployment provjere i ciljana istraživanja".
Ovo nije prvi put da CAISI pregleda AI sustave – do sada je obavio 40 evaluacija, uključujući modele OpenAI-ja i Anthropica od početka 2024. godine – ali prvi je put da se kompanije dogovaraju o pregledima unaprijed, umjesto da ih podnose post festum.
Sigurnosno testiranje prije izlaska zvuči razumno, ali otvara pitanje tko definira rizik.
The governance question is how findings move from a private lab to public accountability.📷 Generated editorial visual / Tech&Space
Iako službeni dokumenti ne navode točne kriterije ocjene, izjava CAISI-ja naglašava "nacionalnu sigurnost" kao ključni faktor. To sugerira da će se pregledi fokusirati na potencijalne rizike poput zlouporabe modela za cyber napade, dezinformacije ili razvoj oružja. Izvještaj The Vergea ističe da je ovo dio šire strategije administracije da "razumije i upravlja implikacijama frontier AI-ja", što je prioritet još od AI Action Plana iz doba Trumpove administracije. No, ostaje pitanje koliko će ovi pregledi biti transparentni i hoće li rezultirati stvarnim ograničenjima ili samo formalnim pečatom odobrenja.
Za industriju, ovaj dogovor predstavlja dvosjekli mač. S jedne strane, rani pregled od strane vlade mogao bi smanjiti rizik od neželjenih posljedica i povećati povjerenje javnosti u AI tehnologije. S druge, svaki dodatni regulatorni korak usporava inovacije i daje prednost kompanijama koje su spremne surađivati s vlastima – a to su upravo giganti poput Googlea i Microsofta. Manji igrači, poput europskih ili kineskih startupova, mogli bi se naći u nepovoljnom položaju ako američki model nadzora postane globalni standard.
Ono što je možda najzanimljivije jest kako se ovaj dogovor uklapa u širu sliku AI regulacije. Dok EU gradi svoj AI Act s fokusom na etičke smjernice i klasifikaciju rizika, Sjedinjene Države odabiru pragmatičniji pristup: umjesto zakona, dogovore s ključnim igračima. To ne znači da će se izbjeći propisi – Bijeli dom već razmatra izvršnu naredbu koja bi formalizirala obveznu provjeru novih AI modela. Ako se to dogodi, mogli bismo svjedočiti pomaku od "dobrovoljnog nadzora" prema sustavu gdje vlada ima posljednju riječ o tome što se objavljuje, a što ne.
Ostaje otvoreno pitanje koliko će ove provjere biti učinkovite. Dosadašnji pregledi CAISI-ja nisu spriječili lansiranje nijednog modela, a sama agencija priznaje da su evaluacije ograničene resursima i vremenom. Ipak, činjenica da su tri najutjecajnije AI kompanije pristale na unaprijedne provjere govori više od bilo kojeg službenog dokumenta: era u kojoj su tehnološki divovi sami odlučivali o granicama AI-ja možda je na izdisaju.
Za provjeru konteksta, korisno je usporediti The Verge, NIST AI RMF i FTC AI guidance.
