ArXiv uvodi strože kontrole nad radovima i recenzijama koje sadrže AI-sadržaj. Ako postoje jasni dokazi da autori nisu proverili rezultate generisane LLM-om, sledi jednogodišnja zabrana podnošenja i uslov da naredni radovi prvo budu prihvaćeni u recenziranom časopisu. Funkcioneri navode primere kao što su izmišljene reference i "meta-komentari" modela, a statistike s ICLR-a pokazuju značajnu upotrebu AI u recenzijama. Implementacija će biti zahtevna zbog velikog broja podnesaka na arXiv-u.
ArXiv Pooštrava Pravila Za AI-Generisane Radove — Jednogodišnja Zabrana Za Neproverene LLM Rezultate
AI generating a document with corrupted data and inaccurate content: AI workslop concept - Credit: elenabsl/Shutterstock
ArXiv.org, jedno od najvažnijih svetskih skladišta otvorenih naučnih radova, pooštrava pravila za rukopise i recenzije koje sadrže sadržaj generisan veštačkom inteligencijom. Cilj nove politike je sprečavanje objavljivanja radova u kojima autori nisu adekvatno proverili i ispravili greške ("halucinacije") koje proizvode veliki jezički modeli (LLM).
Šta predviđa nova politika
Prema izjavama Thomas G. Diettericha, predsednika Sekcije za računarstvo na arXiv-u, ako postoje neoborivi dokazi da autori nisu proverili rezultate LLM-a, to dovodi u pitanje pouzdanost celog rada. Kao sankcija predviđena je zabrana podnošenja na arXiv na jednu godinu, a nakon isteka zabrane naredni podnesci moraju biti prethodno prihvaćeni u uglednom recenziranom časopisu.
Primeri problema koje navode funkcioneri
Dietterich navodi konkretne primere: izmišljene (halucinirane) reference i tzv. "meta-komentari" iz LLM-a, kao što su odeljci koji doslovno sadrže uputstva ili poruke poput: "Evo 200-rečnog rezimea; želite li izmene?". Takvi elementi ukazuju da autori nisu temeljno proverili sadržaj.
„Naš Kodeks ponašanja jasno kaže da potpisivanjem rada svaki autor preuzima punu odgovornost za njegov sadržaj, bez obzira na to kako je nastao“, rekao je Dietterich.
Postupak žalbe i moderacije
Dietterich je naglasio da će biti moguće ulagati žalbe: interna procedura zahteva da moderator dokumentuje problem, a zatim predsednik sekcije potvrdi pre nego što se sankcija primeni.
Reakcije iz zajednice
Steinn Sigurðsson, naučni direktor arXiv-a, istakao je na platformi X da arXiv već odbacuje neke izuzetno problematične podneske i da je cilj dodatnih posledica „zasuti“ zloupotrebe kako neiskusni korisnici i loši akteri ne bi stalno pokušavali da preplave servis.
Ključne reakcije iz akademske i industrijske zajednice uglavnom su pozitivne: Ethan Mollick (Wharton) ocenio je politiku kao razumnu, dok su Ash Jogalekar (Microsoft) i Lucas Beyer (Meta) pozdravili očekivanje visokih standarda i strogo sprovođenje pravila.
Opseg problema i administrativni izazov
Problem je već prisutan u akademiji: uoči konferencije ICLR 2026 izveštava se da je oko 21% recenzija navodno u potpunosti generisano AI, a više od polovine je pokazivalo znakove upotrebe AI. Kod samih radova zabeleženo je da je približno 1% (199 rukopisa) bilo potpuno AI-generisano, dok je 9% imalo više od 50% teksta generisanog AI.
Sprovedenje novih mera biće izazovno s obzirom na obim podnesaka: arXiv je do kraja 2021. dostigao oko 2 miliona podnesaka, sa približno 24.000 mesečnih prijava stanjeom novembra 2024.
Zaključak
ArXiv-ova pooštrena politika odražava sve veću potrebu da akademska zajednica postavi jasna pravila o upotrebi generativne AI. Fokus je na odgovornosti autora da provere i isprave AI-halucinacije pre objavljivanja, dok arXiv uvodi disciplinske mere kako bi sačuvao kvalitet i kredibilitet platforme.
Pomozite nam da budemo bolji.
