AI skeneri postaju oružje za cenzuru knjiga

Konzervativne grupe za roditeljsku zastupu u SAD-u ne samo što više ne pišu prigovore na knjige ručno — sada ih generiraju. Alat pod nazivom BLOCKADE koristi OpenAI-jev i xAI-jev API za skeniranje teksta, usporedbu s popisa od 300 ‘problematičnih’ riječi (svaka s dodijeljenim ‘severity score’) i automatizirano stvaranje izvještaja o ‘neprimjerenosti’.

Čini se da je cilj ubrzati proces zabrane knjiga u školama i knjižnicama, ali s ključnom razlikom: umjesto ljudske procjene, odluke se sada donose na temelju algoritamske interpretacije. Riječ je o skoku u skaliranju, ne nužno u preciznosti.

Dok tradicionalni prigovori zahtijevaju barem pročitanu knjigu, AI skeneri mogu ‘pročitat’ stotine stranica u sekundi — ali i pogriješiti u kontekstu. Primjerice, riječ ‘queer’ u edukativnom tekstu o LGBT+ povijesti može dobiti isti ‘severity score’ kao i u uvredljivom kontekstu.

Tehnički gledano, BLOCKADE nije ništa revolucionarno: radi se o fine-tuned LLM-u s priloženim CSV-om ‘zabranjenih’ pojmova i jednostavnim scoring sustavom. No, njegova primjena otvara pitanja o automatiziranoj cenzuri.

Dokazi pokazuju da se alat već koristi u nekoliko američkih okruga, gdje konzervativne grupe podnose AI-generirane prigovore kao ‘objektivne’ dokaze za uklanjanje knjiga. Ironično, isti alat koji bi trebao ‘eliminirati pristranost’ sada služi kao oružje ideološke selekcije — s tim da je pristranost sad ukodirana, a ne izričita.

Za razliku od ranijih valova zabrana knjiga, ovdje nema javne debate o pojedinim naslovima. Umjesto toga, dobivamo masovno flagiranje na temelju ključnih riječi, bez obzira na literarne, povijesne ili edukativne kontekste.

Konačno, važno je da se shvati da će se tehnologija nastaviti razvijati i da ćemo morati nastaviti razmišljati o njenom utjecaju na našu kulturu i društvo. To znači da moramo biti svjesni mogućih opasnosti i problema koji se mogu pojaviti, ali i da moramo biti otvoreni za nove mogućnosti i izazove koji će se pojaviti.