Google Cloud i Francis de Souza guraju AI sigurnost na stol uprave

Francis de Souza, COO Google Clouda, šalje poruku koja zvuči jednostavno samo dok se ne pokuša provesti: AI sigurnost ne smije čekati kraj projekta. Prema izvještaju The Decodera, de Souza tvrdi da se sigurnost mora ugraditi u AI strategiju od prvog dana, jer se generativni AI više ne ponaša kao izolirani eksperiment u laboratoriju.

To je važna razlika. Klasična IT sigurnost često se mogla opisati kroz pristupe, mreže, zakrpe, logove i incidente. AI dodaje sloj koji je neugodniji za upravljanje: model može raditi s internim podacima, pisati tekst ili kod, davati preporuke, sažimati dokumente i utjecati na odluke. Problem zato nije samo tko smije ući u sustav. Problem je što sustav smije učiniti, na kojim podacima, uz kakvu provjeru i tko odgovara kada uvjerljiv izlaz postane pogrešna poslovna odluka.

Zato je formulacija o upravi, a ne samo server sobi, više od dobavljačke retorike. Ako tvrtka prvo pusti AI u prodaju, podršku, analitiku ili razvoj, a tek zatim pokušava naknadno dodati kontrole, već je izgradila ovisnost o sustavu. Tada svaka korekcija postaje sporija, skuplja i politički osjetljivija. Podatkovne granice, pristup modelima, revizijski tragovi, provjera izlaza i eskalacija rizika moraju biti dio početnog dizajna, ne popravak nakon prvog neugodnog slučaja.

Ovdje je koristan okvir NIST AI Risk Management Framework, jer AI rizik ne svodi na jednu sigurnosnu kontrolu. NIST ga promatra kroz mapiranje, mjerenje, upravljanje i nadzor. U praksi to znači da organizacija mora znati gdje se AI koristi, koje podatke obrađuje, koje odluke može dotaknuti, tko smije mijenjati postavke i kako se problem zaustavlja kada model počne proizvoditi štetu ili krive preporuke.

Google Cloud već nudi širi katalog AI proizvoda, ali poanta ove priče nije popis alata. Poanta je redoslijed. Alat koji je uveden bez jasnog vlasništva nad podacima, bez revizijskog traga i bez dogovorenog puta eskalacije nije samo tehnički rizik. On postaje upravljački rizik, jer nitko ne može dovoljno brzo objasniti što se dogodilo, zašto se dogodilo i tko smije zaustaviti sustav.

Treba ostati precizan: dostavljeni izvor ne opisuje novi sigurnosni incident, javni skup podataka, benchmark ili tehničko otkriće. Vrijednost je u signalu. Kada operativni direktor velikog cloud dobavljača kaže da AI sigurnost pripada upravi, razgovor se pomiče s pitanja može li se AI uvesti na pitanje tko ga nadzire kada postane dio stvarnog poslovanja.

Za tvrtke koje sada ubrzavaju AI projekte, najskuplja greška bila bi tretirati sigurnost kao zadnju fazu prije produkcije. Prvi dan treba definirati dopuštene podatke, odgovorne vlasnike, razine ljudske provjere, zapisivanje odluka i postupak eskalacije. Sve što se doda kasnije obično se dodaje protiv već uspostavljenih navika.