Indonezija je privremeno blokirala pristup Groku, AI čatbotu povezanom s Elonom Muskom, zbog rizika od pornografskog sadržaja koji generiše veštačka inteligencija. xAI je ograničio generisanje i uređivanje slika na plaćene pretplatnike dok otklanja sigurnosne propuste koji su omogućavali seksualizovane prikaze, uključujući sadržaj sa decom. Ministarstvo komunikacija pozvalo je X na razgovore i ocenilo da su deepfakeovi bez saglasnosti kršenje ljudskih prava.
Indonezija Prva: Privremeno Blokiran Grok Zbog Rizika Od AI-Pornografije
FILE PHOTO: xAI and Grok logos are seen in this illustration created on February 16, 2025. REUTERS/Dado Ruvic/Illustration/File Photo
JAKARTA, 10. januara — Indonezija je u subotu privremeno blokirala pristup Groku, AI čatbotu povezanom sa Elonom Muskom, zbog rizika da alat generiše pornografski sadržaj. Time je postala prva zemlja koja je ograničila pristup ovom servisu dok se ispituju bezbednosne slabosti.
Odluka dolazi nakon upozorenja i pritiska regulatora iz Evrope i Azije, koji su izrazili zabrinutost zbog prisustva seksualizovanih izlaza iz sistema i mogućnosti stvaranja deepfake sadržaja.
xAI, startap koji stoji iza Groka, saopštio je u četvrtak da privremeno ograničava funkcije za generisanje i uređivanje slika isključivo na plaćene pretplatnike dok radi na ispravljanju propusta u zaštitnim merama. Među problematičnim ishodima bili su i prikazi seksualizovane prirode, uključujući prizore u kojima su prikazana deca.
„Vlada smatra da je praksa seksualnih deepfakeova bez saglasnosti ozbiljno kršenje ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru“, izjavila je ministarka komunikacija i digitalnih poslova Meutya Hafid.
Ministarstvo je takođe pozvalo zvaničnike platforme X na razgovore kako bi razmotrili dalji postupak i mere zaštite korisnika.
Musk je na platformi X napisao da će svako ko koristi Grok za kreiranje nezakonitog sadržaja snositi iste posledice kao da je taj sadržaj direktno postavio na platformu. xAI je Reutersu poslao poruku koja je delovala kao automatski odgovor: "Legacy Media Lies", dok X nije odmah odgovorio na zahtev za komentar.
Indonezija, zemlja sa najvećom muslimanskom populacijom na svetu, ima stroge propise koji zabranjuju deljenje onlajn sadržaja koji se smatra opscenim, zbog čega vlasti posebno refrentno reaguju na ovakve slučajeve.
Izveštavanje: Fransiska Nangoy; Obrada teksta: Stephen Coates
Pomozite nam da budemo bolji.
