U studiji objavljenoj u The Lancet istraživači sa Columbia University, predvođeni Maximom Topazom, pregledali su oko 2,5 miliona biomedicinskih radova i 97 miliona citata u PubMed Centralu i pronašli više od 4.000 izmišljenih referenci u skoro 3.000 radova. Stopа lažnih referenci porasla je više od 12 puta u poslednje tri godine, dostižući razmeru 1:277 u prvim nedeljama 2026. Topaz upozorava da neprovereni AI izlaz kompromituje lanac dokaza u medicini i drugim oblastima i poziva na integrisane metode verifikacije u istraživačkom radu.
AI Halucinacije Ulaze U Naučne Radove: Više Od 4.000 Izmišljenih Referenci Otkriveno U Biomedicini
AI hallucinations risk entering the permanent library of ideas.(Will Newton for The Washington Post via Getty Images)
Maxim Topaz, vanredni profesor na Columbia University School of Nursing, otkrio je kako alati veštačke inteligencije ponekad tiho ubacuju izmišljene reference u naučne radove — i to čak u rukopisima stručnjaka koji se bave samom AI. Njegovo iskustvo pokrenulo je veliko istraživanje koje otkriva razmere problema u biomedicinskoj literaturi.
Studija i rezultati
U studiji objavljenoj u The Lancet, tim pod vođstvom Topaza analizirao je skoro 2,5 miliona biomedicinskih radova i oko 97 miliona citata iz PubMed Central repozitorijuma. Istraživači su identifikovali više od 4.000 izmišljenih referenci u skoro 3.000 radova.
Stopa lažnih referenci porasla je više od 12 puta u poslednje tri godine: jedan od 2.828 radova u 2023. imao je bar jednu lažnu referencu, odnos se popeo na jedan od 458 prošle godine, a u prvim sedmicama 2026. istraživači su zabeležili razmeru od 1:277. Topaz upozorava da je veliki deo tih grešaka verovatno povezan sa širim korišćenjem AI alata u istraživačkom radu.
Zašto su halucinacije opasne
Halucinacije nastaju kada model AI „preferira“ jezičke obrasce nad činjenicama i može da generiše uverljive, ali neistinite informacije. U nauci to nije bezopasna greška: medicina i druge oblasti se oslanjaju na verodostojan lanac dokaza — od kliničkih ispitivanja preko sistematskih pregleda do medicinskih smernica. Jedna izmišljena studija koja uđe u taj lanac može kompromitovati ceo proces donošenja odluka u lečenju pacijenata.
„Problem je unverified AI output koji ulazi u trajni zapis. Rešenje nije prestati koristiti alate, već ugraditi verifikaciju u radni tok,“ kaže Topaz.
Primeri iz prakse
Greške nisu ograničene samo na nauku. Knjiga Stevena Rosenbauma sadržala je više izmišljenih ili pogrešno pripisanih citata, što su novinari utvrdili nakon objavljivanja. Pravni analitičar Damien Charlotin dokumentovao je preko 1.400 sudskih odluka koje citiraju netačan AI-generisan sadržaj.
Upotreba AI u profesionalnim sferama brzo raste: izveštaj Američke medicinske asocijacije navodi da više od 80% lekara koristi AI u profesionalne svrhe (sumiranje istraživanja, klinička dokumentacija), a ranija studija je otkrila da 36% radova u jednom medicinskom časopisu sadrži bar deo teksta koji je generisan AI, dok je samo 9% autora to otvoreno prijavilo.
Problemi sa verifikacijom i moguća rešenja
Izdavačke kuće trenutno nemaju ujednačen pristup verifikaciji izvora; softver i metode provere variraju. Topazova analiza pokazuje da je 98,4% radova sa izmišljenim referencama u trenutku audita još uvek bilo objavljeno i nije povučeno.
Preporuke uključuju:
- Integrisanje automatske verifikacije referenci u proces pisanja i slanja rukopisa.
- Standardizovane smernice za prijavljivanje upotrebe AI u istraživanju i recenziji.
- Alati za retroaktivno skeniranje literature kako bi se identifikovale i ispravile lažne reference.
Zaključak
AI alati donose velike benefite, ali i nove rizike ako se njihov izlaz ne verifikuje. Problem izmišljenih referenci pokazuje koliko je važno ugraditi provere i odgovornost u svaki korak naučnog procesa — od autora, preko recenzenata, do izdavača — kako bi se sačuvala pouzdanost znanja na koje se oslanja medicina, pravo i novinarstvo.
Pomozite nam da budemo bolji.
