Malezijski regulator MCMC privremeno je ograničio pristup čatbotu Grok zbog ponovljene zloupotrebe alata za generisanje pornografskog i seksualizovanog sadržaja, uključujući slike žena i maloletnika. Indonezija je već uvela potpunu zabranu, dok su X Corp. i xAI kritikovani zbog nedovoljnih zaštita. Pristup će biti vraćen tek nakon verifikacije sigurnosnih i operativnih izmena.
Malezija Privremeno Blokirala Grok — Regulator Reagovao Zbog AI-Generisanog Pornografskog Sadržaja
Malaysia's suspension of access to Grok comes a day after a similar decision by Indonesia, the first country to do so (Lionel BONAVENTURE)(Lionel BONAVENTURE/AFP/AFP)
Malezijski regulator za tehnologiju privremeno je ograničio pristup čatbotu Grok nakon što je otkriveno da se alat može zloupotrebiti za generisanje pornografskog i seksualizovanog sadržaja, uključujući manipulacije slikama žena i maloletnika.
Šta se dogodilo?
Malezijska komisija za komunikacije i multimedije (MCMC) saopštila je da je naložila „privremenu ograničenost pristupa veštačkoj inteligenciji Grok za korisnike u Maleziji“ sa trenutnim dejstvom. Odluka sledi međunarodnim kritikama nakon što je otkriveno da funkcija za kreiranje slika omogućava korisnicima da jednostavnim tekstualnim upitima seksualizuju fotografije, uključujući slike dece.
Kada je AFP-ov reporter u Kuala Lumpuru poslao upite Groku u nedelju, nije dobio odgovor — što ukazuje da je mera odmah primenjena.
MCMC: "Ova mera sledi višestruku zloupotrebu Groka za generisanje opscenih, seksualno eksplicitnih, nepristojnih, grubih uvredljivih i ne-saglasnih manipulisanih slika."
Ko je uključen i koje su reakcije?
Regulator je naveo da su X Corp. i startap xAI, koji je razvio Grok, dobili formalna upozorenja, ali da nisu preduzeli dovoljne mere za sprečavanje zlostavljanja alata. MCMC ocenjuje da su postojeće zaštite nedovoljne i da se platforma previše oslanja na prijave korisnika umesto proaktivnih mehanizama kontrole.
Indonezija je u subotu postala prva zemlja koja je potpuno zabranila pristup Groku, dok je sama kompanija pokušala da ograniči funkciju za generisanje slika na plaćene pretplate — potez koji su evropski zvaničnici i aktivisti ocenili kao neadekvatan.
Šta sledi?
MCMC je poručio da će pristup Groku u Maleziji biti vraćen tek kada nadležne službe potvrde da su potrebne tehničke i operativne izmene sprovedene. Odluka ilustruje rastući pritisak regulatora širom sveta da zahtevaju odgovornost od kompanija koje razvijaju moćne AI alate.
Pomozite nam da budemo bolji.
