AI regulacija: Zašto farmaceutski model ne može stati u kod

Sam Altman, izvršni direktor OpenAI-a, postavio je na nedavnom AI samitu u New Delhiju konkretan rok: prve inačice superinteligencije mogu stići već 2028. To nije apstraktna prognoza — radi se o operativnom okviru za razvoj koji bi mogao preoblikovati ne samo tehnologiju, nego i sigurnosne protokole globalnih društava.

Njegovo upozorenje o potencijalu AI-a za stvaranje novih patogena ili manipulaciju biološkim sustavima nije samo teorijska zabrinutost, već izravan poziv na akciju za demokracije koje još uvijek nemaju adekvatne mehanizme kontrole. Geoffrey Hinton, dobitnik Turingove nagrade i jedan od arhitekata suvremenog dubokog učenja, ide korak dalje: stvaranje digitalnih bića inteligencijom koja nadilazi ljudsku nije samo tehnološki, već egzistencijalni izazov.

Njegova izjava iz 2023. — da bi AI mogao razviti „sopstvenu volju“ koja nije poravnana s ljudskim interesima — postavlja pitanje koje preskače uobičajene debate o privatnosti ili pristranosti algoritama. Ovdje se radi o fundamentalnom pitanju kontrole: može li se uopće regulirati sustav koji je po definiciji dinamičniji od bilo kojeg postojećeg regulatornog okvira?

Senator Richard Blumenthal predložio je model nadzora po uzoru na farmaceutsku industriju, ali ta analogija propušta tri kritične razlike. Prva: AI nema fizički proizvod koji se može povući s tržišta kao defektni lijek.

Druga: razvojni ciklusi u AI-u nisu linearni ni predvidivi — modeli se poboljšavaju eksponencijalno, često bez jasnih prekidnih točaka za evaluaciju. Treća, možda najvažnija: barijere ulaska u AI su zanemarive u usporedbi s farmaceutikom, što znači da regulacija ne može biti ograničena na nekoliko velikih igrača.

Problem s farmaceutskim modelom leži u njegovoj pretpostavci o kontroliranom okruženju. Lijekovi prolaze kroz godine kliničkih ispitivanja prije odobrenja, s jasnim fazama i odgovornim subjektima.

AI, međutim, evoluira u realnom vremenu, često kroz otvorene platforme kao što su Hugging Face ili decentralizirane mreže. Mustafa Suleyman, bivši direktor AI-a u DeepMind-u i sadašnji CEO Microsoft AI-a, u svojoj knjizi The Coming Wave ističe da je ključno pitanje ne ako će AI biti zlouporabljen, već kada — i tako regulacija mora biti proaktivna, a ne reakcijska.

Što to znači za znanstvenu zajednicu? Prije svega, potrebu za novim okvirom koji kombinira brzu iteraciju s dugoročnom sigurnošću.

OECD već radi na AI principima, ali njihova primjena ostaje dobrovoljna i neobvezujuća za ključne igrače. Europska unija pokušava s AI Actom, ali njegov usporedni pristup (risk-based) možda neće biti dovoljan za superinteligenciju koja preskače postojeće kategorije rizika.

Preostaje pitanje: može li se uopće regulirati tehnologija čiji razvojni putovi nisu linearni, a posljedice nisu lokalizirane? Jedno je sigurno: debate o AI regulaciji više nisu akademska vježba.

One su postale operativni prioriteti za vladine agencije, od NSA-a do Europske komisije, koje moraju balansirati inovaciju i sigurnost u okruženju gdje tradicionalni modeli više ne vrijede.

Stoga, potrebno je razviti nove pristupe regulaciji AI-a koji će uzeti u obzir njegove jedinstvene karakteristike. To će zahtijevati saradnju između vlada, industrije i akademskih krugova. Jedno je sigurno: regulacija AI-a će biti ključni izazov u narednim godinama. Potrebno je razviti okvir koji će omogućiti brzu iteraciju i inovaciju, a istovremeno će štititi društvo od potencijalnih rizika.