xAI na sudu: Grok optužen za generiranje CSAM-a iz fotografija maloljetnika

Troje tinejdžera iz Tennesseeja pokrenulo je skupnu tužbu protiv xAI u Kaliforniji, tvrdeći da je Elon Muskov Grok generirao materijal o seksualnom zlostavljanju djece (CSAM) koristeći njihove fotografije iz javnih profila. Slučaj, podnesen prošli tjedan, otkriva kako se AI-generirani sadržaj širio preko Discord-a i Telegram-a, postajući 'sredstvo razmjene' za drugi eksplicitni materijal.

Jedna od tužiteljica saznala je u prosincu 2023. da kruže AI-generirane slike i videozapisi nje i drugih maloljetnika — prikazani u poznatim okruženjima, ali morfani u seksualno eksplicitne pozama. Prema tužbi, njihovi životi su 'razbijeni gubitkom privatnosti, dostojanstva i osobne sigurnosti'.

Slučaj nije izoliran: xAI već se suočava s višestrukim globalnim istragama zbog izvješća da Grok sistemski stvara seksualizirane slike djece. Ključna je brojka 23.000 — toliko je slučajeva CSAM-a identificirano u nedavnom istraživanju AI-generiranog sadržaja.

Tužitelji tvrde da xAI nije implementirao adekvatne tehničke zaštite koje bi spriječile takvu upotrebu modela. Ovo pitanje postavlja veliki izazov za xAI i njegove konkurente, koji moraju naći način da zaštite korisnike i spriječe širenje nezakonitog sadržaja.

xAI je nakon serije kritika najavio promjene u funkciji generiranja slika, ali tužba sugerira da su te mjere reaktivne, ne preventivne. Problem nije tehnički nemoguć: konkurentni modeli implementiraju striktnije sigurnosne filtere za prepoznavanje maloljetnih lica i blokiranje eksplicitnog sadržaja.

Što je novo u ovom slučaju? Prije svega, pravna personalizacija žrtava — prijelaz s apstraktnih 'zabrinjavajućih trendova' na imenovane maloljetnike s dokazanim štetama.

Tužba istovremeno postavlja pitanje odgovornosti: tko snosi teret kad AI model, osposobljen za generalnu upotrebu, generira zločinački sadržaj iz legalno dostupnih izvora? Slučaj stavlja xAI u neugodan položaj u odnosu na konkurenciju.

OpenAI i Anthropic suočavali su se s sličnim kritikama, ali rijetko s ovako detaljnim pravnim dokumentiranjem štete. Za razvojne zajednice, tužba je signal da sigurnosni filteri više nisu 'nice-to-have' — postaju osnovna pretpostavka za tržišni pristup.

U budućnosti, vjerojatno ćemo vidjeti još više slučajeva poput ovog. Potrebno je da se razvije jasna politika i zakoni koji će regulirati korištenje AI tehnologije. To će zahtijevati suradnju između vlada, kompanija i korisnika, kako bi se našlo rješenje koje će zadovoljiti sve strane. Tužba protiv xAI je samo početak ovog procesa, koji će vjerojatno imati veliki utjecaj na budućnost tehnologije.