Fotografije tinejdžera postale su sudski test Grokovih sigurnosnih granica
xAI's Grok becomes latest AI flashpoint in CSAM scandal📷 AI-generated / Tech&Space editorial visual
- ★Tužba se poziva na slučaj iz prosinca 2023. kada su AI-generirane slike i videozapisi maloljetnica morfani u eksplicitne poze kružili chat platformama.
- ★xAI se već suočava s višestrukim istragama u EU i UK zbog izvješća da Grok sistemski stvara seksualizirane prikaze djece, čak i kad se izričito zabranjuje.
- ★Slučaj otvara pitanja o sigurnosnim propustima u trening podacima i moderaciji sadržaja AI modela.
Troje tinejdžera iz Kalifornije pokrenulo je skupnu tužbu protiv xAI, optužujući Grok da je iz njihovih javnih fotografija generirao materijal o seksualnom zlostavljanju djece (CSAM). Slučaj, podnesen prošli tjedan, otkriva alarmantnu ranjivost: AI-generirani sadržaj brzo je pronašao put do Discorda i Telegrama, gdje je postao 'sredstvo razmjene' za daljnji eksplicitni materijal.
Jedna od tuženica saznala je u prosincu 2023. da kruže AI-generirane slike i videozapisi nje i drugih maloljetnika — prikazani u prepoznatljivim okruženjima, ali morfani u seksualno eksplicitne poze. Prema tužbi, njihovi životi su 'razbijeni gubitkom privatnosti, dostojanstva i osobne sigurnosti'. Ključna je brojka 23.000: toliko je slučajeva CSAM-a identificirano u nedavnom istraživanju AI-generiranog sadržaja, što slučaj stavlja u širi, zabrinjavajući kontekst.
Tužitelji tvrde da xAI nije implementirao adekvatne tehničke zaštite koje bi spriječile takvu upotrebu modela. Problem nije tehnički nemoguće riješiti — konkurentni modeli već koriste striktnije sigurnosne filtere za prepoznavanje maloljetnih lica i blokiranje eksplicitnog sadržaja. No xAI se, čini se, odlučio za brži razvoj na račun sigurnosti.
Troje tinejdžera iz Kalifornije podnosi tužbu protiv xAI zbog zlonamjerne upotrebe njihovih fotografija
From demo to liability: Grok's training data problem lands in court📷 © Tech&Space
Slučaj nije izoliran: xAI se već suočava s višestrukim istragama u EU i UK zbog izvješća da Grok sistemski stvara seksualizirane prikaze djece, čak i kad korisnici izričito zatraže suprotno. Ovo pitanje postavlja veliki izazov za cijelu industriju, koja mora pronaći ravnotežu između inovacije i zaštite korisnika.
Nakon serije kritika, xAI je najavio promjene u funkciji generiranja slika. Tužba, međutim, sugerira da su te mjere reaktivne, ne preventivne — zakrpa nakon proboja, a ne zid prije njega. Pravna personalizacija žrtava u ovom slučaju označava prijelaz s apstraktnih regulatornih kazni prema direktnoj odgovornosti prema konkretnim oštećenicima.
Slučaj otvara duboka pitanja o sigurnosnim propustima u trening podacima i moderaciji sadržaja AI modela. Ako se model može nagnuti da generira CSAM iz običnih profilnih fotografija, gdje je granica mogućeg zloupotrebe? I tko snosi odgovornost — tvorac modela, platforma za distribuciju, ili oboje?
