Kad tijelo, rad i broj telefona postanu AI sirovina bez pristanka

Kada je Jennifer 2023. dobila istraživački posao, provukla je novu profesionalnu fotografiju kroz alat za prepoznavanje lica. Nije tražila slavu ni incident. Tražila je vlastiti digitalni trag. Ono što je pronašla, prema MIT Technology Reviewu, bio je stari pornografski video u kojem je njezino tijelo izmijenjeno tuđim licem pomoću deepfake tehnologije.

To je važan detalj jer ruši najudobniju obranu tehnološke industrije: da je problem samo u lažnim licima slavnih osoba ili političara. Ovdje je tijelo već postojalo u eksplicitnom materijalu, ali je identitet manipuliran. Šteta se ne zaustavlja na tome čije je lice dodano. Ona pogađa osobu čije je tijelo uvučeno u novi kontekst, osobu čiji je rad ponovno iskorišten i svakoga tko više ne može dokazati što je stvarno, što je montaža i tko je uopće dao pristanak.

Drugi sloj priče još je hladniji. Isti izvor upozorava da AI sustavi treniraju na radu odraslih kreatorica bez pristanka. Ako model uči iz materijala koji je nastao u vrlo specifičnom ekonomskom i osobnom dogovoru, tada ne govorimo samo o autorskom pravu. Govorimo o tržištu u kojem se intimni rad može pretvoriti u sirovinu, a osoba koja ga je stvorila ostaje bez kontrole nad kopijama, stilom i budućom zaradom.

Zato se ova priča dobro uklapa u okvir rizika kakav opisuje NIST AI Risk Management Framework: šteta nije samo tehnička pogreška, nego kombinacija sigurnosti, privatnosti, objašnjivosti i društvenog učinka. Kod deepfake pornografije problem nije u tome da model ponekad pogriješi. Problem je da može vrlo uvjerljivo proizvesti sliku koju žrtva nije naručila, ne može lako ukloniti i često mora sama dokazivati da je pretrpjela štetu.

Treći signal iz istog paketa vijesti dolazi iz sasvim drugog formata: AI chatbotovi koji iznose privatne telefonske brojeve. To pokazuje da zloupotreba identiteta ne mora imati lice. Dovoljni su broj, ime, kontekst i sustav koji je naučio povezivati podatke bez jasne granice između javnog, privatnog i pogrešno dostupnog. Smjernice poput FTC-ova poslovnog vodiča za AI tu su korisne jer podsjećaju na jednostavnu stvar: ako sustav može povrijediti potrošače, tvrdnja da je riječ o eksperimentalnoj tehnologiji nije obrana.

Regulacija se već pokušava pomaknuti prema procjeni rizika, uključujući europski AI Act, ali tempo zloupotrebe ostaje brži od urednog zakonodavnog ritma. Za korisnike to znači da zaštita ne može počivati samo na naknadnom prijavljivanju sadržaja. Platforme, modeli i posrednici moraju dokazati kako sprječavaju neovlaštenu intimnu sintezu, kako ograničavaju treniranje na osjetljivom sadržaju i kako uklanjaju privatne podatke prije nego što ih chatbot izgovori kao da su obična činjenica.

Najopasniji dio ove priče nije jedna tehnologija. Opasno je to što se isti obrazac ponavlja: tijelo kao podatak, rad kao podatak, broj telefona kao podatak. Ako pristanak ne postane operativni uvjet, a ne PR rečenica, AI sustavi će nastaviti širiti privatnu štetu brzinom javne infrastrukture.