AI ne mora izmisliti studiju da bi zarazio znanstveni zapis
Lažni citati su opasni jer izgledaju kao normalna infrastruktura znanosti.📷 TECH&SPACE / GPT Image 2.0
- ★Lažni citati nisu stilska greška, nego kvar u provjerljivosti znanstvenog rada.
- ★Najopasniji su jer izgledaju formalno uvjerljivo i lako prolaze površnu provjeru.
- ★Časopisi i autori trebaju tretirati reference kao dokazni sloj, ne kao dekoraciju.
Prema izvornom materijalu, istraživači sa Sveučilišta Columbia analizirali su više od dva milijuna znanstvenih radova i 97 milijuna citata. Otkrili su da je 2023. godine svaki 2.828. rad sadržavao barem jedan lažni citat. Do 2025. ta brojka skočila je na 1 od 458 radova, a u prvih sedam tjedana 2026. čak 1 od 277. Ukupno je identificirano oko 4.000 izmišljenih referenci u 2.800 radova.
Problem nije ograničen na marginalne časopise – lažni citati pojavljuju se i u uglednim publikacijama, što dodatno komplicira borbu protiv zagađenja znanstvenog zapisa. Generativni AI alati poput ChatGPT-a često su navođeni kao glavni krivci, iako studija ne navodi konkretne modele. „Jedan od ključnih pitanja jest: pomaže li nam AI da radimo bolju znanost ili samo stvara 'slop' brže?“, ističe jedan od autora studije.
Lažni citati ne samo da podrivaju integritet pojedinačnih radova, već ugrožavaju i pouzdanost sistematskih pregleda i kliničkih smjernica. Gdje se oslanjanje na nepostojeće izvore može imati ozbiljne posljedice za javno zdravlje, rizik postaje još veći.
Ako se izmišljeni DOI pojavi dovoljno uvjerljivo, problem više nije samo halucinacija modela. Problem je provjera koja kasni za proizvodnjom teksta.
Prava šteta nastaje nizvodno, kad lažne reference uđu u citatne mreže i preglede literature.📷 TECH&SPACE / GPT Image 2.0
Akademska zajednica reagira s nelagodom, ali i s određenom dozom rezignacije. „Bilo mi je neugodno: provjerio sam, a ipak se zamalo dogodilo i meni“, priznao je jedan istraživač. Istaknuo je kako je incident potaknuo širu raspravu o odgovornosti autora i recenzenata. Problem je posebno izražen u disciplinama gdje se AI alati koriste za brzu generaciju literature review sekcija, često bez adekvatne provjere.
Iako studija ne nudi konkretna rješenja, naglašava potrebu za strožim uputama o uporabi AI alata u akademskom pisanju. Neke institucije već razmatraju uvođenje obvezne provjere citata pomoću specijaliziranih alata za detekciju AI-generiranih referenci. Međutim, kako se tehnologija brzo razvija, ostaje pitanje hoće li takve mjere biti dovoljne da se zaustavi trend koji već sada prijeti temeljnim principima znanstvene provjerljivosti.
