Stanford pomiče test zdravstvenog AI-ja s modela na povjerenje pacijenata

Stanford Health Care počeo je raditi nešto što bi u zdravstvu trebalo zvučati banalno, ali kod umjetne inteligencije često dolazi prekasno: pitati pacijente što misle prije nego se novi AI alat uvede u praksu. Prema izvještaju STAT Newsa, pacijentski paneli koriste se kao rana provjera za tehnologije koje bi mogle oblikovati kliničke odluke, komunikaciju ili organizaciju skrbi.

To nije dekorativni fokus-grupni sloj nakon što je odluka već donesena. Poanta je uhvatiti lomne točke dok je alat još u fazi procjene: što pacijenti smatraju korisnim, što im zvuči neprozirno, gdje očekuju ljudsku provjeru i kada automatizacija počinje izgledati kao smanjivanje odgovornosti. U kontekstu institucije poput Stanford Health Carea, takav proces ima težinu jer pokazuje kako veliki akademski sustavi pokušavaju uskladiti inovaciju s povjerenjem pacijenata.

Zdravstveni AI više nije apstraktna tema iz prezentacija. Alati za sažimanje dokumentacije, trijažu poruka, pomoć liječnicima i prediktivne procjene već ulaze u kliničke radne tokove. Regulatorni okvir pritom još hvata korak. Američki FDA, primjerice, održava zaseban pregled pristupa za AI i strojno učenje u medicinskom softveru, dok se bolnice moraju baviti svakodnevnim pitanjima koja nisu uvijek regulatorno uredna: kako objasniti pacijentu da je AI sudjelovao u procesu, što se događa kad alat pogriješi i tko nosi kliničku odgovornost.

Stanfordov pristup zato je zanimljiv manje kao priča o jednom alatu, a više kao signal upravljanja. Ako pacijent o AI sustavu prvi put čuje tek kad je on već ugrađen u portal, nalaz ili razgovor s liječnikom, institucija je propustila ključni trenutak za povjerenje. Paneli mogu ranije razdvojiti dvije stvari koje se često miješaju: tehničku izvedbu modela i društvenu prihvatljivost njegove uporabe.

Tu se otvaraju i nezgodna pitanja. Pacijenti mogu podržati AI koji smanjuje administrativni teret, ali odbiti dojam da algoritam filtrira njihovu poruku prije liječnika. Mogu prihvatiti pomoćni alat, ali tražiti jasno označavanje kada je AI uključen. Mogu cijeniti brže odgovore, ali ne ako cijena izgleda kao slabiji ljudski nadzor. Upravo su takve nijanse važne jer se ne vide u prosječnom benchmarku ili internoj demonstraciji.

Širi zdravstveni sustav već se kreće prema formalnijim pravilima za transparentnost digitalnih alata. U SAD-u se to vidi i kroz ONC Health IT Certification Program, koji sve više povezuje zdravstveni softver, podatke i povjerenje korisnika. No bolnička praksa često mora odlučivati prije nego regulacija ponudi savršeno jasan odgovor.

Zato je glavna lekcija Stanfordovih panela vrlo konkretna: zdravstveni AI ne smije se procjenjivati samo na razini modela, nego na razini odnosa. Ako pacijenti ne razumiju gdje alat ulazi u skrb, ako ne vide granice njegove uporabe ili ako osjećaju da se njihov glas dodaje tek naknadno, čak i tehnički solidan sustav može postati operativni problem. U medicini, povjerenje nije korisničko sučelje. To je infrastruktura.