Južna Afrika je povukla nacrt nacionalne politike za veštačku inteligenciju nakon otkrića da su najmanje šest od 67 citata u dokumentu AI‑generisane i nepostojeće reference. Ministar komunikacija Solly Malatsi izjavio je da je propust narušio kredibilitet nacrta i najavio posledice za odgovorne. Nacrt je predviđao osnivanje regulatornih tela i podsticaje za razvoj AI, a biće revidiran pre ponovnog izlaganja javnosti. Slučaj dodatno ističe rastući problem "halucinacija" u generativnoj AI i potrebu za strožom ljudskom verifikacijom.
Južna Afrika Povuče Nacrt Nacionalne Politike Za Veštačku Inteligenciju Nakon Otkrivanja Lažnih Citata
South Africa withdraws AI policy after it was found written by AI
Južna Afrika je privremeno povukla nacrt svoje nacionalne politike o veštačkoj inteligenciji nakon što je otkriveno da su neki akademski citati u dokumentu bili lažni i AI‑generisani. Ministar komunikacija Solly Malatsi ocenio je da je ovaj propust narušio kredibilitet nacrta i najavio odgovornost za one koji su radili na dokumentu.
Šta se tačno desilo?
Pregled nacrta otkrio je da je najmanje šest od ukupno 67 akademskih citata u dokumentu bilo izmišljenih — citati su izgledali verodostojno, pozivali su se na prave časopise, ali odgovarajući članci nisu postojali. Otkriveno je da su ti navodi najverovatnije AI‑generisane „halucinacije” koje nisu bile proverene pre objave nacrta.
"Najverovatnije objašnjenje je da su AI‑generisani citati uključeni bez odgovarajuće verifikacije. Ovo nije trebalo da se desi," napisao je Solly Malatsi na platformi X, dodavši da je ovaj propust kompromitovao integritet nacrta.
Kako je problem otkriven?
Slučaj je razotkrio južnoafrički portal News24, koji je analizirao referenc liste i utvrdio da najmanje šest navedenih radova ne postoje. Urednici časopisa koji su bili navedeni — uključujući The South African Journal of Philosophy, AI & Society i Journal of Ethics and Social Philosophy — nezavisno su potvrdili da citirani članci nisu autentični.
Minister of Communications and Digital Technologies of South Africa Solly Malatsi (R) speaks (AFP via Getty Images)
Šta je bio sadržaj nacrta?
Nacrt je imao ambicije da pozicionira Južnu Afriku kao regionalnog lidera u oblasti AI. Predviđao je osnivanje novih tela za nadzor i regulaciju (nacionalnu Komisiju za AI, Etički odbor i Regulatorno telo za AI) kao i mere podsticaja — poreske olakšice, grantove i subvencije — za razvoj AI infrastrukture i saradnju sa privatnim sektorom.
Širi kontekst: „halucinacije” u generativnoj AI
Ovaj slučaj osvetljava širi problem generativnih modela — tzv. "halucinacije": uverljivi, ali netačni odgovori koje modeli proizvode kada im nedostaju podaci ili kada ne postoji jasan izvor. Studija objavljena u časopisu Nature navodi porast takvih potencijalno pogrešnih citata u akademskim radovima (prema navodu u dokumentu, sa 0,3% u 2024. na preko 2,5% u 2025.).
Posledice i sledeći koraci
Ministar Malatsi najavio je da će biti preduzete sankcije ili druge posljedice za odgovorne osobe i da će nacrt biti revidiran pre nego što bude ponovo stavljen na javnu raspravu. Slučaj naglašava potrebu za strožom ljudskom verifikacijom pri korišćenju generativne AI, naročito kada dokumente potpisuju javne institucije ili kada se radi o dokumentima od javnog interesa.
Zaključak: Incident u Južnoj Africi je upozorenje da tehnologija može ubrzati rad, ali i proširiti netačne informacije ako nema dosledne ljudske provere. Revizija nacrta i jasan sistem odgovornosti bi trebalo da budu prioriteti pre ponovnog objavljivanja politike.
Pomozite nam da budemo bolji.
