FDA odbija deregulaciju AI uređaja: granice inovacije

Američka agencija za hranu i lijekove (FDA) odbila je prijedlog industrije za deregulaciju određenih AI uređaja u medicini — odluka koja signalizira da čak ni u eri digitalnog zdravstva regulatorni okviri neće biti žrtvovani u ime brze inovacije. Prijedlog, koji je podržavala dio industrije tijekom mandata bivšeg predsjednika Donalda Trumpa, predviđao je smanjenje nadzora nad AI alatima namijenjenim dijagnostici, praćenju stanja ili podršci kliničkim odlučivanjima.

FDA-ina odluka, kako navodi STAT News, sugerira da postoji jasna crvena linija između automatizacije i medicinske odgovornosti. Regulatorno tijelo nije detaljno obrazložilo razloge odbacivanja, ali stručnjaci ističu da bi smanjen nadzor mogao povećati rizik od pogrešnih dijagnoza ili neprovjerenih preporuka, posebno kod uređaja koji rade s podacima niže kvalitete ili u okruženjima s ograničenim kliničkim podacima.

Istovremeno, odluka dolazi u trenutku kada farmaceutske tvrtke ulažu 50 milijuna dolara u digitalne terapije (DTx), što ukazuje na dualni trend: stroži nadzor nad AI-om koji direktno utječe na pacijente, ali i rastuće povjerenje u softverska rješenja koja nadopunjuju tradicionalne terapije. Važno je naglasiti da FDA nije odbacila sve oblike deregulacije, već samo specifičan prijedlog koji je, prema dostupnim informacijama, bio preopćenit i nedovoljno oslonjen na kliničke dokaze.

To znači da će se razvoj AI uređaja nastaviti, ali pod strožim uvjetima koji moraju dokazati sigurnost, učinkovitost i transparentnost algoritama prije ulaska na tržište.

Odluke poput ove često izlažu napetost između brzine tehnološkog napretka i potrebe za zaštitom pacijenata. Dok neki igrači u industriji smatraju da previše regulacije koče inovacije, klinička zajednica upozorava da medicinski AI zahtijeva viši stupanj provjere od, primjerice, potrošačkih aplikacija.

Razlog je jednostavan: pogreška u algoritmu može imati posljedice po život, a ne samo po korisničko iskustvo. Zanimljivo je da se ova odluka događa u kontekstu širih globalnih trendova.

Europska unija, na primjer, usvojila je AI Act koji klasificira medicinske AI sustave kao visokorizične, zahtijevajući strože testiranje. S druge strane, SAD još uvijek nema jedinstveni pravni okvir za AI u zdravstvu, što stvara prostor za interpretacije — i potencijalne zlouporabe.

Što se tiče digitalnih terapija, one se razvijaju u sivoj zoni: iako nisu klasični lijekovi, njihova učinkovitost se sve češće mjeri kliničkim studijama, kao u slučaju Pear Therapeuticsovog rješenja za ovisnost o opioidima. Za pacijente ovo znači da AI uređaji koji dolaze na tržište moraju proći kroz zahtjevniji proces validacije, ali i da će razvoj novih rješenja možda biti sporiji.

Pitanje koje ostaje otvoreno jest kako balansirati potrebu za inovacijom s imperativom da nikad ne žrtvujemo sigurnost pacijenata u ime tehnološkog napretka?

Ova odluka može poslužiti kao temelj za izgradnju povjerenja u medicinski AI, ali i kao podsjetnik da tehnološki napredak ne smije biti prioritet iznad ljudskog života. Industrija će morati prilagoditi svoje strategije, dok regulatorna tijela moraju osigurati da inovacije ne ugroze one kojima su namijenjene.