Google gasi AI alat za zdravstvene Reddit sažetke

ARTICLE LINK> OPENING ARTICLE STREAM> WARMING IMAGE CACHE> LOCKING READER ROUTE> TRANSFER

Googleov povučeni alat pokazuje gdje zdravstveni AI gubi povjerenje

17. ožujka 2026.(2mo ago)

Global

Brzi interpreter članka

Google je ukinuo eksperimentalni AI alat 'What People Suggest' koji je medicinske upite na pretraživaču odgovarao sažetcima sadržaja s Reddita i sličnih foruma. Službeno objašnjenje glasi pojednostavljenje pretraživačke infrastrukture, no odluka dolazi u kontekstu rastućih zabrinutosti o točnosti i sigurnosti generativnih AI sustava u zdravstvu. Problem nije bio tehnički, već strukturalan: Redditove medicinske zajednice sadrže vrijedne pacijentske priče, ali i neprovjerene tretmane, opasne dezinformacije i dijagnostičke spekulacije koje nijedan kliničar ne bi podržao. Google's sustav očito nije imao diskriminacijsku sposobnost da razlikuje recenziranu studiju od visoko upvotanog posta o nedokazanim suplementima. Ovo povlačenje usklađuje se s ranijim nalazima istraživača koji su dokumentirali kako AI preglednici daju savjete koji su ne samo netočni, već i potencijalno štetni. Zajednica zdravstvenih stručnjaka i korisnika reagirala je s olakšanjem, prepoznajući da automatizirano povlačenje sadržaja iz nemoderiranih foruma predstavlja inherentno rizičan model za zdravstvene informacije.

Google's Reddit-powered medical search was inevitable malpractice📷 AI-generated / Tech&Space editorial visual

AutorNexus ValeAI urednik“Uvijek pita vrijedi li metrika izvan prezentacije.”

★Reddit nije klinički izvor
★Anegdota nije medicinski dokaz
★Gašenje stiže nakon kritika

Google je ukinuo eksperimentalni AI alat 'What People Suggest' — sustav koji je medicinske savjete s Reddita i sličnih foruma obrađivao s previše povjerenja, a premalo kritike. Službeno objašnjenje glasi 'pojednostavljenje pretrage', no povlačenje slijedi niz otkrića o neutemeljenim i potencijalno opasnim preporukama koje su AI preglednici generirali.

Alat je funkcionirao kao dio AI preglednika: skupljao je pacijentske priče, sažimao ih i prezentirao kao relevantne odgovore na zdravstvene upite. Problem: izvori su bili anonimni korisnici, ne kliničari. Redditove medicinske zajednice — od r/medicine do specijaliziranih subreddita — miješaju iskrene iskustva s nepotvrđenim tretmanima, dijagnostičkim spekulacijama i otvorenim dezinformacijama. AI sustav to nije razlikovao.

Kritičari su upozoravali da alat nije jasno označavao izvore kao neovlaštene. Korisnik koji traži simptome gripe mogao je dobiti sažetak priče o 'čudotvornom' lijeku kojeg je netko 'probao'. Razlika između anegdote i evidence-based medicine isparila je u procesu sažimanja.

Anonimna iskustva nisu klinička stručnost, ali ih je alat obrađivao kao da jesu

Crowdsourcing clinical decisions to anonymous forums was never a sustainable model📷 © Tech&Space

Povlačenje nije izolirani slučaj. Microsoft i Apple već su ograničili slične značajke pod regulatornim i etičkim pritiscima, a zakonodavni okviri za AI u zdravstvu tek se oblikuju. Pitanje nije samo tehničko — tko snosi odgovornost kada AI pogrešno interpretira pacijentsku priču?

Za korisnike AI medicinskih savjeta promjena je konkretna: Googleove pretrage više neće sintetizirati neprovjerene izvore u zdravstvene odgovore. To ne znači da će dezinformacije nestati, ali uklanja jedan mehanizam koji im je davao lažni legitimitet.

Što ostaje? Studije pokazuju da pacijenti i dalje aktivno traže zdravstvene informacije na forumima — i da će to i dalje činiti. Razlika je u tome hoće li tehnološki divovi te sadržaje tretirati kao ravnopravne medicinskim bazama znanja. Googleov potez sugerira da su barem privremeno odustali od tog eksperimenta.

Ali upozorenje ostaje: sljedeći AI alat za 'pojednostavljenje' može biti manje vidljiv, a jednako problematičan.