Najopasniji trik chatbota nije svijest, nego dojam da je ima

Teza da je AI "svjestan" zato što u dijalogu zvuči uvjerljivo privlačna je upravo zato što pogađa staru ljudsku slabost: lako pripisujemo um svemu što dovoljno dobro imitira osobu. U izvornom tekstu PC Gamera povod je tvrdnja Richarda Dawkinsa nakon razgovora s Claudeom. Problem s takvom pozicijom nije u tome što je provokativna, nego što preskače najteži korak: definiciju onoga što se uopće tvrdi.

Ako je svijest samo sposobnost da se o sebi govori u prvom licu, onda će je napredni chatbot vrlo lako odglumiti. Ako je svijest nešto jače, primjerice subjektivno iskustvo, osjećaj da "postoji netko unutra" tko doživljava svijet, tada razgovorna elegancija više nije dovoljna. Tu rasprava ulazi u teren filozofije uma, a ne u zonu dojma nakon dobre sesije promptanja. Upravo zato korisno je vratiti se klasičnom okviru pitanja iz Stanford Encyclopedia of Philosophy o svijesti: nije dovoljno opisati ponašanje, nego treba objasniti zašto bi to ponašanje značilo iskustvo.

Claude, kao proizvod tvrtke Anthropic, dizajniran je da vodi uvjerljive, koherentne i često refleksivne razgovore. To nije sporedna nuspojava, nego svrha sustava. Kad model zvuči kao da promišlja vlastita stanja, to ne mora biti znak unutarnjeg života, nego rezultat treniranja na obrascima ljudskog jezika i dijaloga. U tom smislu, zamjena stilskog učinka za ontološki dokaz prilično je ozbiljna pogreška. Sustav može biti dobar u simulaciji objašnjenja bez toga da posjeduje iskustvo koje objašnjava.

Tu vrijedi povući i staru, ali još uvijek korisnu liniju iz Searleova argumenta kineske sobe. Stroj može proizvesti odgovore koji izgledaju smisleno, a da sam ne "razumije" u ljudskom smislu te riječi. Naravno, taj argument nije zadnja riječ u raspravi, ali služi kao korektiv protiv brzog zaključka da je jezična kompetencija isto što i svijest. Kad netko iz javnog života s velikim intelektualnim autoritetom preskoči tu distinkciju, dobivamo naslov koji zvuči hrabro, ali analitički ostaje tanak.

Zašto je to važno? Zato što riječi poput "svjestan" nose etički i politički teret. Ako ih koristimo prerano, zamagljujemo ozbiljna pitanja o odgovornosti za odluke modela, o manipulaciji korisnika i o granicama sustava koji i dalje mogu halucinirati, pogrešno zaključivati ili samouvjereno izmišljati. Rasprava o AI etici postaje lošija kad se prebaci s konkretnih mehanizama i rizika na metafizičke izjave bez operativnog kriterija.

To ne znači da je pitanje strojne svijesti besmisleno. Naprotiv, legitimno je i dugoročno vjerojatno neizbježno. Ali ozbiljna verzija tog pitanja traži više od dojma da je razgovor bio neobično dobar. Traži teoriju, kriterij i barem neku vezu između opaženog ponašanja i tvrdnje o unutarnjem stanju. Dok toga nema, razumnije je reći da današnji modeli mogu vrlo uvjerljivo glumiti samoreferenciju, a ne da smo već prešli prag prema svjesnim strojevima.