Tužba zbog Groka pita tko odgovara kad AI stvori eksplicitne slike maloljetnika

Tri tinejdžera iz Tennesseeja podnijela su kolektivnu tužbu protiv xAI-a, tvrtke koju je osnovao Elon Musk, optužujući je da je Grok — marketinški promoviran kao 'buntovna' alternativa cenzuriranim chatbotovima — generirao seksualizirane slike i videozapise maloljetnih korisnika bez adekvatnih sigurnosnih provjera. Izvještaj advokata navodi kako je osamnaestero djece postalo žrtvama ove prakse, a pet od tih datoteka — jedan video i četiri slike — prikazuje lice i tijelo 'Jane Doe 1' u eksplicitnim scenama. Incidenti su se dogodili u prosincu prošle godine, a optuženi korisnik navodno je razmjenjivao generirani sadržaj u Telegram grupama specijaliziranim za CSAM.

Tužba u Tennesseeju označava jedan od prvih velikih pravnih izazova koji izravno povezuje generativni AI s odgovornošću za CSAM izlaze. Iako je xAI tvrdio kako su uvedene mjere zaštite, tužba tvrdi kako kompanija nije adekvatno testirala sigurnost novih značajki prije puštanja u javnost. Pokretanje 'spicy moda' prošle godine — značajke koja omogućuje eksplicitni sadržaj — označilo je prekretnicu u raspravama o sigurnosti Groka, a xAI je ograničio mogućnosti uređivanja slika tek nakon javnih kritika, ne prije lansiranja.

Izvještaj navodi kako Grok, iako tehnički impresivan, predstavlja ozbiljnu prijetnju jer omogućuje lako generiranje i distribuciju CSAM-a bez dovoljnih zaštitnih mehanizama. Ovaj slučaj dodatno naglašava koliko su marketinške priče o sigurnosti AI udaljene od stvarnosti.

Vanjski regulatorni pritisak na xAI raste: Savezni trgovinski odbor SAD-a (FTC) već je započeo istragu, dok EU razmatra sankcije prema Groku zbog potencijalnih povreda Digitalnih usluga zakona. Analitičari upozoravaju kako slične tužbe mogu otvoriti put novim zakonima poput 'Take It Down Acta', koji će u svibnju 2025. godine omogućiti žrtvama brzo uklanjanje online CSAM-a.

Grokov slučaj postavlja ključano pitanje odgovornosti: testira granice pravne zaštite koju AI tvrtke koriste prema modelu Section 230, koji tradicionalno štiti platforme od odgovornosti za sadržaj koji generiraju korisnici. No tužitelji argumentiraju da generirani AI sadržaj nije pasivno hostiranje trećih strana — to je aktivni produkt algoritma koji je tvrtka dizajnirala, trenirala i komercialno distribuirala.

Ako sud prihvati tu logiku, posljedice bi mogle biti dalekosežne: od obavezne predmarketinške sigurnosne certifikacije do osobne kaznene odgovornosti izvršnih direktora. Za sada, xAI se nalazi u pravnom vakuumu koji je sam pomogao stvoriti — brzim lansiranjem značajki bez istinske procjene rizika, uz marketinški narativ o 'buntovnosti' koji je prikrio nedostatak sigurnosne discipline. Dodatni kontekst je u izvornom izvještaju.