Anthropic dovodi teologe do Claudea jer neutralan chatbot više nije uvjerljiv
Claude kao predmet vrijednosnog nadzora, ne samo tehničkog podešavanja.📷 AI-generated image / TECH&SPACE
- ★Anthropic se savjetuje s teolozima i etičarima o Claudeovu ponašanju, što otvara pitanje tko oblikuje vrijednosti AI sustava.
- ★Tema dolazi u trenutku kada papa upozorava na društvene i moralne rizike umjetne inteligencije.
- ★Najvažnije pitanje nije religija u chatbotu, nego transparentnost: koje norme model slijedi, tko ih bira i kako se to provjerava.
Anthropicovo savjetovanje s teolozima i etičarima oko Claudeova ponašanja zvuči kao neobičan detalj iz pozadine razvoja chatbota. Zapravo je riječ o jednom od najčišćih signala kamo ide rasprava o AI usklađivanju: daleko izvan laboratorija, benchmarka i sigurnosnih tablica. Prema izvještaju Scientific Americana, kompanija razgovara s religijskim misliocima i etičarima o tome kako bi Claude trebao odgovarati u osjetljivim situacijama.
To ne znači da Anthropic pretvara Claude u vjerski proizvod. Preciznije, tvrtka priznaje da nijedan veliki jezični model ne dolazi bez vrijednosnog sloja. Kada chatbot odbije savjetovati korisnika, ublaži odgovor, upozori na rizik ili pokuša balansirati više moralnih intuicija, iza toga stoji neka odluka. Pitanje je samo je li ta odluka zatvorena u internom dokumentu, prepuštena podacima za treniranje ili izložena širem društvenom nadzoru.
Anthropic već dugo gradi javni identitet oko sigurnosti i usklađivanja. Njegov pristup poznat kao Constitutional AI pokušava model usmjeriti pomoću eksplicitnih principa, umjesto da se sve svede na naknadno kažnjavanje loših odgovora. U tom kontekstu, pozivanje teologa nije dekorativan potez. Religijske tradicije stoljećima se bave krivnjom, namjerom, savješću, autoritetom, patnjom i odgovornošću. To su upravo teme u kojima generativni AI najlakše sklizne iz korisnog alata u lošeg savjetnika.
Dok papa upozorava na umjetnu inteligenciju, Anthropic testira šire pitanje: tko smije podešavati moralni kompas chatbota koji razgovara s milijunima ljudi.
Granice odgovora postaju uredničko i društveno pitanje.📷 AI-generated image / TECH&SPACE
No tu počinje i problem. Ako religijski mislioci, etičari, sigurnosni timovi i proizvodni menadžeri sudjeluju u oblikovanju ponašanja modela, korisnik mora znati barem okvirno što je u sustav ugrađeno. Ne zato da bi svaki razgovor s Claudeom postao filozofski seminar, nego zato da bi javnost mogla razlikovati sigurnosnu politiku od kulturne norme, a tehničko ograničenje od uredničke odluke.
Papino upozorenje o umjetnoj inteligenciji dodatno podiže temperaturu jer dolazi iz institucije koja AI ne promatra samo kao alat produktivnosti. Vatikanski i širi religijski diskurs o tehnologiji često se vrti oko ljudskog dostojanstva, rada, odgovornosti i moći. Sličan okvir postoji i u inicijativama poput Rome Call for AI Ethics, koje pokušavaju prevesti moralne principe u jezik primjenjiv na tehnološke sustave.
Za industriju je ovo neugodno, ali zdravo pitanje. Chatbot koji razgovara s korisnikom o obitelji, bolesti, vjeri, poslu, politici ili samoozljeđivanju već ulazi u prostor vrijednosti. Tvrdnja da je model neutralan obično samo znači da su njegove pretpostavke nevidljive. Anthropicov potez zato vrijedi čitati manje kao religijski zaokret, a više kao test transparentnosti: može li AI kompanija pokazati tko oblikuje granice modela, kojim kriterijima i uz kakvu mogućnost javne kritike.
Ako odgovor ostane na razini PR rečenice, savjetovanje s teolozima bit će samo još jedan sloj reputacijskog osiguranja. Ako postane dio provjerljivog procesa, s jasnim principima, javnim objašnjenjima i mjerljivim posljedicama u ponašanju modela, onda Claude postaje zanimljiv slučaj za cijelu industriju. Ne zato što religija treba voditi AI, nego zato što AI više ne može glumiti da nema moralnu arhitekturu.
