Polje AI istraživanja preplavljeno je brojnim niskokvalitetnim radovima, od kojih su mnogi delom nastali pomoću velikih jezičkih modela. Profesor Hany Farid upozorava da kvantitet guši kvalitet i navodi primer Kevina Zhua, koji tvrdi da je ovogodišnje autorstvo na 113 radova (89 na NeurIPS). Eksplozija prijava na konferencijama i primeri izmišljenih citata i manipulacije recenzijom ukazuju na potrebu za strićijim standardima i većom transparentnošću.
AI „istraživački“ radovi u haosu: Talas loših i AI‑pomoću napisanih studija guši pravu nauku
Polje istraživanja veštačke inteligencije suočava se sa sve većim problemom: nagli porast loše urađenih akademskih radova, mnogi od kojih su delom ili potpuno generisani i uređeni pomoću velikih jezičkih modela, otežava pronalaženje stvarno vrednih istraživanja.
Šta se događa?
Profesor Hany Farid sa UC Berkeleyja opisao je situaciju kao „frku“ i savetovao studentima da budu oprezni pri ulasku u polje zbog preplavljenosti niskokvalitetnim radovima. Farid je ukazao na autora Kevina Zhua, koji tvrdi da je ove godine učestvovao u pisanju 113 radova, od kojih je 89 prijavljeno na konferenciju NeurIPS.
„Toliko mladih želi da uđe u AI. Sve je to haos. Ne možeš da pratiš, ne možeš da objavljuješ, ne možeš da radiš dobar posao, ne možeš da razmišljaš.“ — Hany Farid
Zhu je organizovao program Algoverse za srednjoškolce i studente, u kojem učesnici plaćaju 3.325 USD za 12‑nedeljni onlajn kurs i tokom koga se podstiče slanje radova na konferencije. Zhu je izjavio da timovi koriste „standardne alate za produktivnost“ i ponekad jezičke modele za kopiredakturu, ali nije potvrdio da li su radovi bili generisani pomoću AI.
Posledice na konferencije i recenziju
Konferencije poput NeurIPS beleže eksploziju prijava: sa ispod 10.000 prijava 2020. na preko 21.500 ove godine, što je opteretilo sistem recenziranja toliko da organizatori angažuju doktorske studente da pomognu. Povećan broj radova bez odgovarajućeg kvaliteta snižava odnos signal‑šum i otežava izdvajanje važnih otkrića.
Vrste problema
- Halucinacije i izmišljeni citati: Jezički modeli ponekad generišu nepostojeće reference koje prolaze kroz recenziju.
- Nepravilnosti u sadržaju: Primeri poput AI‑generisanih ilustracija s grotesknim greškama pokazuju nedostatak nadzora.
- Manipulacija procesom: Pojedinci su koristili skriveni tekst dizajniran da prevare AI‑alate koji pomažu pri recenziji.
Šta je u igri?
Ako kvantitet i brzopleti radovi preuzmu prostor, prava inovacija može biti ugušena. To ima posebno veliku težinu za novu generaciju istraživača čiji značajni doprinosi mogu ostati neprimećeni zbog preplavljenosti literaturom.
Moguća rešenja
Stručnjaci predlažu jače standarde za otkrivanje upotrebe AI u pisanju, strožiju verifikaciju izvora, transparentniju praksu koautorstva i unapređenje procesa recenzije (npr. poboljšane smernice, dodatne kontrole originalnosti i verificiranje referenci).
Polje je i dalje izuzetno važno za nauku i industriju, ali zahteva hitnu samorefleksiju i institucionalne mere kako bi kvalitet i poverenje u istraživanja bili sačuvani.
Pomozite nam da budemo bolji.
