Studija u The Lancet otkriva nagli porast fabrikovanih bibliografskih referenci u naučnim radovima, što istraživači povezuju sa širim korišćenjem AI alata i „halucinacijama“ LLM modela. Tim sa Columbia University automatski je proverio >2,5 miliona radova u PubMed Central i identifikovao ~4.000 lažnih citata u 2.800 radova. Učestalost lažnih referenci porasla je približno 12 puta od 2023. do početka 2026., što može narušiti poverenje u nauku i uticati na kliničke smernice.
AI Optužen Za Eksploziju Lažnih Citata U Naučnim Radovima — Šta To Znači?
A new study finds an alarming increase in the number of fabricated citations in published scientific papers. Are AI hallucinations to blame?getty
Novo istraživanje objavljeno u The Lancet upozorava na nagli porast fabrikovanih referenci u objavljenim naučnim radovima, trend koji autori povezuju sa širim korišćenjem alata za veštačku inteligenciju i „halucinacijama“ velikih jezičkih modela (LLM).
Kako je studija izvedena
Tim sa Columbia University, predvođen Maksimom Topazom (Maxim Topaz), koristio je automatizovan sistem za verifikaciju referenci da pregleda preko 2,5 miliona radova iz PubMed Central Open Access skupa podataka objavljenih između januara 2023. i februara 2026. Ti radovi su sadržali više od 125 miliona bibliografskih referenci, od kojih je 97,1 miliona (77%) imalo PMID i bilo pogodno za proveru; preostalih 23% (npr. knjige, web-stranice) je izuzeto.
Glavni nalazi
Nakon primene filtera za smanjenje lažno pozitivnih rezultata i verifikacije u bazama PubMed, Crossref, OpenAlex i Google Scholar, tim je identifikovao nešto više od 4.000 fabrikovanih citata raspoređenih u oko 2.800 radova. Iako apsolutni broj nije ogroman, dinamičan porast je alarmantan: učestalost fabrikovanih referenci porasla je približno 12 puta od 2023. do početka 2026. (2023 — 1/2.828 radova; 2025 — 1/458; prve 7 nedelja 2026 — 1/277).
Zašto se to dešava
Autori ukazuju da su fabrikovane reference često dobro formatirane, teme i imena autora izgledaju verodostojno, pa su te reference teške za otkrivanje. Nagli porast nakon 2024. korelira sa kašnjenjem između široke primene LLM alata (krajem 2022. i tokom 2023.) i perioda kada se ti radovi pojavljuju u objavljenoj literaturi.
Posledice
Fabrikovane reference mogu dovesti čitaoce na lažne tragove, nepravedno pojačati kredibilitet rada i ugroziti poverenje u nauku. U medicini, to može imati ozbiljne posledice: autori ističu primer rada koji je imao 18 od 30 lažnih referenci, a neki od tih citata već su se pojavili u drugim radovima i u sistematskim pregledima koji oblikuju kliničke smernice.
Preporuke
Studija i prateći komentari predlažu sledeće mere za izdavače, indeksere i istraživačku zajednicu:
- Uvesti automatizovanu verifikaciju referenci u tok slanja rukopisa pre recenzije.
- Indeksne servise opremiti metapodacima o integritetu kako bi korisnici mogli proceniti pouzdanost referenci.
- Retroaktivno pregledati postojeće publikacije i izdavati ispravke ili povlačenja kad fabrikovane reference naruše zaključke.
- Uvesti posebnu kategoriju za fabrikovane reference u bazama podataka o integritetu istraživanja radi boljeg praćenja i odgovornosti.
Reakcije stručnjaka
„Medicinski stručnjak ili onaj koji razvija kliničke smernice nema načina da zna da li dokazi na kojima se oslanja zapravo ne postoje,“ rekao je Maxim Topaz u saopštenju za javnost.
U pratećem komentaru u The Lancet, Howard Bauchner i Frederick Rivara podsećaju da je konačna odgovornost na autorima da osiguraju tačnost svog rada i da su potrebni obnovljeni napori za jačanje integriteta istraživanja u uslovima rastućeg skepticizma javnosti.
Zaključak
Iako je broj identificiranih fabrikovanih citata relativno mali u odnosu na ceo korpus publikacija, trend rasta je zabrinjavajući i zahteva brzo usvajanje automatskih provera, transparentnosti i odgovornosti kako bi nauka i klinička praksa ostali pouzdani.
Izvor: Forbes (prvobitno), studija objavljena u The Lancet
Pomozite nam da budemo bolji.
