Velika AI konferencija odbacila stotine radova zbog korišćenja AI — otkriveni lažni recenzenti

Velika AI konferencija je odbacila stotine radova nakon što je otkriveno da su autori koristili alate veštačke inteligencije za pisanje ili recenziranje radova, pokazuju izveštaji iz medija.

Detalji slučaja

International Conference on Machine Learning (ICML) zahteva od autora da učestvuju u procesu recenziranja drugih radova, pri čemu je korišćenje AI alata za pisanje recenzija izričito zabranjeno. Organizatori su, kako je izveo Nature, koristili tehniku skrivenog tekstualnog vodenog žiga u dokumentima koje su slali na recenziju: vodeni žig je sadržao instrukcije koje bi primetili i automatski sledili AI modeli, pa su tako otkrivene sumnjive, AI-generisane recenzije.

Prema tom izveštaju, oko 2% autora je identifikovano kao korisnici AI alata za recenziranje i njihovi radovi su diskvalifikovani.

Širi trendovi i rizici

Ovo nije izolovani incident: na jednoj AI konferenciji 2025. utvrđeno je da je oko 21% recenzija verovatno generisano pomoću AI, dok je u trećini radova pronađeno stotine navodno „haluciniranih“ citata—izmišljenih ili netačnih referenci. Problem je najizraženiji u istraživanjima o AI, ali se širi i u druge naučne oblasti; jedan veliki izdavač je 2023. povukao 8.000 falsifikovanih članaka, delom zbog lakoće kojom AI alati omogućavaju generisanje lažnog sadržaja.

Posledice i preporuke

Ovi događaji ukazuju na nekoliko ključnih posledica:

• Povećan pritisak na konferencije i časopise da unaprede pravila i metode otkrivanja AI-generisanog sadržaja.
• Potencijalno narušavanje poverenja u proces recenzije i u naučne publikacije.
• Potreba za kombinacijom tehnoloških rešenja (npr. vodeni žigovi, alati za detekciju) i jasnih etičkih smernica za autore i recenzente.

Dok se alati za detekciju i politike razvijaju, važna je transparentnost u radu istraživačkih zajednica, edukacija autora o pravilima i odgovornom korišćenju AI, kao i stalno praćenje integriteta naučne publikasije.