Facebookov veteran gradi moderaciju za AI eru

Brett Levenson, bivši Appleov i Facebookov izvršni direktor, osnovao je Moonbounce s jasnom misijom: pretvoriti politike moderiranja sadržaja u kod koji AI sustavi mogu dosljedno primijeniti. Njegovo rješenje, koje je privuklo 12 milijuna dolara investicija, ne obrađuje samo tekstualne komentare već i AI-generirane slike, odgovarajući na izazove koje su platforme poput Facebooka suočavale još od skandala s Cambridge Analytica.

Podatci pokazuju da Moonbounce već podržava 40 milijuna dnevnih pregleda i opslužuje 100 milijuna aktivnih korisnika — brojke koje ukazuju na skalabilnost koju tradicionalni ljudski moderatori nikad nisu mogli postići. Levensonov pristup 'politika kao kod' eliminira subjektivnost: umjesto da se oslanja na ljudsko prosudjivanje (koje, prema njegovim riječima, 'baca novčić' za točnost), sustav automatski provodi pravila s predvidljivom preciznošću.

Ključna razlika je u brzini. Dok su ljudski timovi često reagirali danima nakon što je šteta već nastala, AI moderacija može intervenirati u realnom vremenu.

To je posebno kritično za platforme s korisničkim generiranim sadržajem, gdje se širenje štetnog materijala mjeri u sekundama, a ne satima.

Moonbounce ne radi samo s društvenim mrežama već i s tvrtkama koje razvijaju AI chatbote i generatore slika — sektore gdje su granice etičkog sadržaja još uvijek nejasne. Njegov model 'sigurnost kao proizvodna prednost' sugerira da će platforme koje usvoje ovakve sustave moći privući korisnike upravo zbog garantirane zaštite, a ne usprkos njoj.

Međutim, ostaje pitanje koliko je ovaj pristup otporan na nove oblike zloupotrebe. AI sustavi mogu biti obmanuti sofisticiranim adversarial napadima, a Levensonova rješenja još nisu testirana u skali globalnih platformi poput TikToka ili YouTubea.

Prema dostupnim informacijama, Moonbounce se usredotočuje na tri vertikale: platforme s korisničkim sadržajem, AI tvrtke i generatore slika — ali ostaje nejasno kako će se nositi s multilingvalnim kontekstima ili kulturnim nijansama.

Kao što se tehnologija nastavlja razvijati, važno je da se razmatraju etički implikaciji AI moderacije. Hoće li ova tehnologija biti koristila za dobro ili za zlo? Samo vrijeme će pokazati. Međutim, jedno je sigurno: Moonbounce je napravio značajan korak u pravcu stvaranja sigurnijeg i pouzdanijeg interneta.