SymptomWise: AI koji ne halucinira u dijagnozama pacijenata

Na prvi pogled, SymptomWise zvuči kao još jedan AI-alat koji obećava „interpretabilnost“ — ali ovdje je trik u tome što su istraživači stvarno odvojili jezgre od logike. Umjesto da pušte LLM-ove da slobodno asociraju (i haluciniraju) dijagnoze, sustav koristi kurirane medicinske baze znanja i deterministički kod za zaključivanje. Free-text ulaz pacijenta pretvara se u validirane simptomne reprezentacije, a tek tada u igru ulazi ograničeni LLM — ali samo za ekstrakciju, ne za donošene odluke.

To nije samo akademska igrica: testirano je na 42 zahtjevna pedijatrijska neurolška slučaja, gdje je točna dijagnoza u top 5 bila u 88% slučajeva. Broj koji zaslužuje pažnju — ali i kontekst. Radi se o ekspertski napisanim slučajevima, ne o kaotičnim real-world podacima iz bolničkih zapisa. Drugim riječima, benchmark je kontroliran, što znači da je stvarni test tek pred nama.

Zanimljivije od brojeva je što ovdje LLM-ovi nisu u središtu. Umjesto toga, oni su degradirani na ulogu „pretraživača simptoma“, dok teška logika ide preko determinističkog modula s ograničenim prostorom hipotaza. To je suprotno od svega što smo navikli čitati o „agentičnim“ AI sustavima — ovdje nema magije, samo kod i kurirana znanja.

Ali tu počinje i problem: ako je ove sve toliko determinističko, zašto uopće koristiti LLM-ove? Odgovor leži u kompromisu — sustav žrtvuje fleksibilnost radi pouzdanosti, što je u medicini možda pametno, ali i ograničava skalabilnost. A to otvara pitanje: tko će zapravo moći održavati ovakav hibridni sustav u produkciji?

Najveća ironija u priči? SymptomWise nije revolucija — on je povratak starom, ali s AI omotačem. Ključna inovacija je u tome što su istraživači formalizirali ono što najbolji liječnici i tako rade: usko grlo nije u generiranju hipoteza, već u sistematiziranom eliminiranju loših. To možda zvuči dosadno, ali upravo ta dosada je ono što nedostaje današnjim AI „čudotvorcima“ koji obilato haluciniraju dijagnoze.

Praktični izazov? Sustav zahtijeva ručno održavanje medicinske baze znanja i kodiranih pravila — što znači da skaliranje na nove specijalizacije ili jezike neće biti brzo ni jeftino. A tu dolazimo do stvarnog uskog grla: SymptomWise nije plug-and-play rješenje, već zahtijeva duboku integraciju s postojećim kliničkim sustavima. To ga čini zanimljivim za velike bolničke lance koji mogu investirati u prilagođavanje, ali manjim klinikama gotovo nedostižnim.

Developer community već primjećuje ovaj trend: „deterministički slojevi“ postaju novi hot topic za sigurnosno-kritične aplikacije, ali s opaskom da takvi sustavi često postaju pre kruti za realne podатke. Pitanje je i koliko će medicinski regulatori biti spremni certificirati hibridne modele gdje LLM-ovi igaju sporednu ulogu — a to je proces koji može trajati godinaма.

Na kraju, SymptomWise je možda najzanimljiviji kao signal o tome kuda ide AI u medicini: manje „čudotvornog“ generiranja, više kontroliranih, auditabilnih procesa. Ali to također znači da će oni koji očekuju brze, jeftine i univerzalne rješenje ostati razočarani. Pravi signal ovdje je u tome da pouzdanost košta — i da je ta cijena često ručni rad, a ne magija algoritama.