arXiv Uvodi Jednogodišnje Zabrane Zbog "Haluciniranih" Referenci — Talas AI-Generisanih Radova Raste

arXiv, najveći repozitorijum za naučne radove pre recenzije, uveo je pravilo kojim će autori čiji radovi sadrže izmišljene ("halucinirane") reference ili druge očigledno AI-generisane delove biti kažnjavani jednomodišnjom zabranom podnošenja novih radova.

Šta je tačno najavljeno?

Predsednik repozitorijuma jasno je poručio da autori snose „punu odgovornost“ za sadržaj objavljen pod njihovim imenima. Cilj novog pravila je da obeshrabri zloupotrebu velikih jezičkih modela koji ponekad generišu lažne reference, netačne tvrdnje ili potpuno izmišljene eksperimente.

Zašto je ovo postalo problem?

AI alati kao što je ChatGPT su u velikoj meri olakšali pisanje naučnih tekstova, ali i omogućili brzu proizvodnju neistinitih ili neproverenih radova. Forbes je izvestio da su prijave u jednom časopisu porasle za 42% od pojave ChatGPT‑a, uz primedbe da je ukupni kvalitet pisanja opao i da je veliki broj radova lako prepoznatljivo AI-generisan.

Koje oblasti su najpogođenije?

Računarske nauke, kao polje najizloženije razvoju AI alata, najviše su pogođene talasom falsifikata. arXiv je zbog „nepodnošljivog priliva“ lažnih radova već privremeno zabranio slanje preglednih radova iz ove oblasti. Jedan istraživač je čak upozorio da je potrebno samo oko 54 sekunde da se generiše izmišljeni rad o eksperimentu koji nikada nije izveden.

Posledice i preporuke

Ova mera predstavlja pokušaj da se zaštiti integritet naučnog procesa pre nego što radovi uđu u formalnu recenziju i objavljivanje. Stručnjaci savetuju da institucije, urednici i autori uvećaju kontrolu i transparentnost, koristeći alate za detekciju AI‑generisanog sadržaja, preciznije navođenje izvora i strožiju verifikaciju eksperimentalnih podataka.

Ukratko: ArXiv želi da spreči brzo širenje lažnih naučnih radova koje olakšava AI — i pritom stavlja odgovornost na autore.