Kant se vraća u AI laboratorije jer sigurnost više nije samo benchmark

Wired bilježi zanimljiv pomak u AI industriji: vodeći laboratoriji sve više zapošljavaju filozofe. Ne kao dekorativni dodatak uz odjele za komunikacije, barem ne nužno, nego kao ljude koji bi trebali razmišljati o etičkim rubnim slučajevima, pitanjima uma, odgovornosti i moralnih granica sustava koji se sve agresivnije guraju u svakodnevni rad.

To nije mala promjena u kulturi koja je godinama slavila brzinu skaliranja, količinu podataka i inženjersku sposobnost iznad gotovo svega ostalog. Filozof u AI laboratoriju ne piše samo apstraktne bilješke o tome što je dobro, a što loše. U najboljem slučaju, takva osoba pomaže timu da preciznije opiše problem prije nego što ga pretvori u sigurnosnu proceduru, evaluaciju modela ili proizvodnu odluku. Ako sustav mora odbiti zahtjev, procijeniti rizik, simulirati savjet ili objasniti ponašanje korisniku, iza toga se vrlo brzo pojave pitanja koja nisu samo tehnička.

Tu se zato prirodno vraća Immanuel Kant, ali i širi paket filozofije uma, etike i političke teorije. Kant nije važan zato što će netko doslovno ugraditi kategorički imperativ u veliki jezični model. Važan je zato što prisiljava raspravu na preciznost: tretira li sustav korisnika kao sredstvo, kao cilj, kao profil za optimizaciju ili kao osobu čiji interes nije uvijek mjerljiv klikom, zadržavanjem ili brzinom odgovora?

Problem je što AI industrija ima dugu povijest pretvaranja ozbiljnog jezika u ambalažu. Ako filozofi završavaju samo u prezentacijama, blogovima i savjetodavnim panelima bez stvarnog utjecaja na odluke o modelima, tada je riječ o još jednoj verziji hypea. Industrija može vrlo elegantno govoriti o moralu, a svejedno lansirati sustave prije nego što razumije njihove posljedice.

S druge strane, etički posao u AI-ju nije nužno kozmetika. Okviri poput NIST AI Risk Management Frameworka već pokušavaju prevesti apstraktne pojmove rizika, pouzdanosti i odgovornosti u operativne procedure. Slično vrijedi za OECD-ova načela za umjetnu inteligenciju, koja postavljaju javnopolitički okvir oko ljudskih prava, transparentnosti i odgovornog razvoja. Filozofi u laboratoriju mogu biti korisni upravo ondje gdje se ti okviri sudaraju s konkretnim proizvodnim kompromisima.

Najvažnije pitanje zato nije zna li kandidat čitati Kanta. Pitanje je ima li organizacija mehanizam da neugodan filozofski prigovor zaustavi lošu odluku. Ako nema, nova humanistička radna mjesta služe kao fini sloj ozbiljnosti preko stare logike: prvo izgradi, zatim objašnjavaj. Ako ima, AI laboratoriji možda napokon priznaju da sigurnost nije samo problem benchmarka, nego i problem prosudbe.