Utah prepisuje lijekove bez liječnika – AI chatbotom

Utah je postao drugi američki savezni država koji dopušta umjetnoj inteligenciji da samostalno obnavlja recepte za psihijatrijske lijekove – bez izravnog nadzora liječnika. Riječ je o jednomodišnjem pilot-programu tvrtke Legion Health, čiji chatbot od travnja 2024. može izdavati refile za 15 „nižerizičnih“ lijekova poput Prozaca, Zolofta i Wellbutrina, ali samo za stabilne pacijente bez novih simptoma The Verge.

Program je osmišljen kao odgovor na kronični nedostatak mentalnih zdravstvenih stručnjaka – u Utahu čak 500.000 stanovnika nema pristup psihijatrijskoj skrbi. Cijena usluge? $19 mjesečno, što zvuči pristupačno, ali s jednim ključnim ograničenjem: chatbot ne može propisivati nove lijekove, kontrolirane supstance poput benzodiazepina, niti one koje zahtijevaju redovne krvne pretrage Legion Health.

Iza ovoga stoji ideja da se automatizacijom „oslobodi“ vrijeme liječnika za složenije slučajeve. No, kako ističu kritičari, algoritamsko odlučivanje u psihijatriji nosi rizike – od pogrešnih dijagnoza do nedostatka empatije. Legionov suosnivač Yash Patel naziva program „globalnim prvencem“, ali struka je podijeljena: dok jedni slave inovaciju, drugi upozoravaju da je ovo korak prema medicinskoj crnoj kutiji STAT News.

Ono što program ne govori otvoreno jest koliko je zapravo ograničen. Chatbot može obnavljati samo recepte za pacijente koji su već godinu dana stabilni, bez promjena doza ili hospitalizacija. Svakih 10 refila ili šest mjeseci, pacijent mora provjeriti stanje kod liječnika – što donekle ublažava rizik, ali ne rješava problem neprozirnosti algoritma. Štoviše, sustav automatski eskalira slučajeve koji izlaze iz „sigurnog“ okvira, ali tko jamči da će to učiniti na vrijeme?

Za sada je riječ o uskom pilotu, ali industrijski signal je jasan: AI se polako uvlači u kliničku praksu, čak i u područjima gdje su greške najskuplje. Konkurencija poput Woebota i Ginger.io već godinama nudi terapijske chatbotove, ali Utahov program prvi put dodjeljuje AI-u pravnu odgovornost za propisivanje lijekova. To nije samo tehnički detalj – to je promjena paradigme koja bi mogla preoblikovati čitavu mentalnu zdravstvenu industriju Wired.

Pitanje je hoće li se ovaj model proširiti izvan Utaha, ili će ostati zanimljiv eksperiment. Jedno je sigurno: dok mediji slave „revoluciju“, pravi test tek dolazi – kada prvi pacijent dobije pogrešan recept, a nitko ne bude siguran tko je kriv: algoritam, programer ili regulator?

Za developere i startupere ovo je jasan signal: regulatorni okvir za medicinsku AI postaje realnost, ali i prilika. Tvrtke koje uspiju dokazati sigurnost i transparentnost algoritama imat će prednost u nadolazećem valu automatizacije. No, tko će kontrolirati te algoritme – i tko će platiti kad nešto pođe po zlu? Odgovor na to pitanje određivat će tko će preživjeti u ovoj novoj eri.