Googleov zaustavljeni napad pokazuje gdje obrana puca nakon prijave

Google je prvi put u povijesti identificirao i zaustavio zero-day exploit razvijen uz pomoć umjetne inteligencije, koji je trebao omogućiti masovno zaobilaženje dvofaktorske autentifikacije (2FA). Prema izvještaju Threat Intelligence Groupa (GTIG), napad je ciljao neimenovani open-source alat za web-based sistemsku administraciju, a tragovi u kodu jasno ukazuju na LLM asistenciju. Istraživači su pronašli 'halucinirani' CVSS rezultat — pogrešno generiranu metriku ozbiljnosti ranjivosti — kao i strukturu koda koja podsjeća na output obučenih jezičnih modela.

GTIG-ov izvještaj navodi da su 'istaknuti cyber kriminalni akteri' planirali 'masovni eksploatacijski događaj', što sugerira da je meta vjerojatno široko korištena platforma. Ranjivost je iskorištavala logičku grešku u dizajnu 2FA sustava, gdje je developer hardkodirao pretpostavku o povjerenju. Iako Google tvrdi da njegov AI model Gemini nije korišten u ovom napadu, incident potvrđuje da su cyber kriminalci počeli eksperimentirati s AI-om za ubrzano otkrivanje ranjivosti.

To nije prvi slučaj da se AI koristi u cyber sigurnosti — ranije su istraživači koristili LLM-ove za otkrivanje Linux ranjivosti — ali ovo je prvi potvrđeni slučaj AI-razvijenog zero-daya namijenjenog masovnoj eksploataciji.

Otkriće dolazi u trenutku kada se AI alati sve više integriraju u cyber sigurnost, kako za obranu tako i za napade. Metode poput 'persona-driven jailbreakinga' — gdje se AI manipulira da otkrije sigurnosne propuste — postaju sve češće, a napadači eksperimentiraju s autonomnim vještinama i konektorima za podatke unutar AI sustava. Googleovi istraživači ističu da su u kodu exploita pronašli i 'udžbeničku' strukturu, što dodatno upućuje na LLM asistenciju.

Iako je napad zaustavljen, incident otvara ozbiljna pitanja o budućnosti cyber sigurnosti u eri AI-ja. Za korisnike i tvrtke ovo znači da će tradicionalne sigurnosne mjere, poput 2FA, morati evoluirati. Hardkodirane pretpostavke o povjerenju — kao u ovom slučaju — postaju sve veća prijetnja, a AI alati omogućuju napadačima da ih brže pronađu i iskoriste. Analiza ranjivosti sugerira da će se fokus obrane morati premjestiti na dinamičnije i adaptivnije mehanizme, posebno u kontekstu open-source alata koji su često meta napada.