Ofcom je pokrenuo zvaničnu istragu protiv X-a zbog funkcije za kreiranje slika u AI botu Grok, koja je navodno korišćena za proizvodnju seksualizovanih deepfake fotografija žena i dece. Regulator ističe da takav sadržaj može predstavljati zloupotrebu intimnih materijala ili dečju seksualnu zloupotrebu. X je kontaktiran 5. januara i odgovorio je u zadanom roku, a istraga će proveriti poštovanje Online Safety Act-a. Indonezija i Malezija su već ograničile pristup, dok Evropska komisija razmatra pritužbe.
Ofcom Pokreće Istragu Protiv X-a Zbog Seksualizovanih AI Slika Kreiranih Na Grok
Grok is facing growing international backlash for allowing users to create and share sexualised pictures of women and children using simple text prompts (Lionel BONAVENTURE)(Lionel BONAVENTURE/AFP/AFP)
Britanski medijski regulator Ofcom u ponedeljak je pokrenuo zvaničnu istragu protiv platforme X zbog funkcije za kreiranje slika u AI razgovornom botu Grok, koja je navodno korišćena za stvaranje seksualizovanih deepfake sadržaja, uključujući slike žena i dece.
Šta je prijavljeno
Prema saopštenju regulatora, prijave su „duboko zabrinjavajuće“. Ofcom je naveo da gole ili seksualizovane slike osoba „mogu predstavljati zloupotrebu intimnih fotografija ili pornografiju — a seksualizovane slike dece... mogu predstavljati materijal koji podleže definiciji dečje seksualne zloupotrebe“.
Postupak i komunikacija
Ofcom je 5. januara kontaktirao X i zatražio objašnjenje koje korake preduzima kako bi zaštitio korisnike u Ujedinjenom Kraljevstvu. Regulator je potvrdio da mu je X odgovorio u zadanom roku, ali je pokrenuta formalna istraga kako bi se utvrdilo da li je kompanija ispunila svoje zakonske obaveze.
„Duboko zabrinjavajuće“, navodi Ofcom u vezi sa izveštajima o seksualizovanim AI slikama.
Pravni okvir
Prema britanskom Online Safety Act, koji je stupio na snagu u julu, platforme moraju da uvedu strogu verifikaciju starosti (npr. proverom lica ili podacima o platnim karticama) za sadržaj koji može biti štetan. Zakonom je izričito zabranjeno kreiranje i deljenje neautorizovanih intimnih slika i materijala koji predstavlja dečju seksualnu zloupotrebu, uključujući seksualne deepfakeove nastale pomoću AI.
Ofcom ima ovlašćenje da izrekne kazne do 10% svetskog prihoda ukoliko platforma prekrši ove propise.
Reakcije i dalje posledice
Kao odgovor na međunarodnu osudu, Grok je krajem prošle nedelje najavio promenu politike: alat je sada, kako je objavljeno, "ograničen na plaćene pretplatnike". Britanski premijer Keir Starmer kritikovao je taj potez kao uvredu žrtvama i ocenio da to nije adekvatno rešenje.
Više zemalja je već reagovalo: Indonezija je u subotu privremeno onemogućila pristup alatu, a Malezija je učinila isto u nedelju. Evropska komisija takođe ispituje pritužbe u vezi sa Grokom.
Šta dalje očekivati
Formalna istraga Ofcoma treba da utvrdi da li je X prekršio obaveze iz Online Safety Acta. Ishod može uključivati obavezu za izmene bezbednosnih procedura i moguće novčane kazne ako se dokaže nepoštovanje propisa.
Pomozite nam da budemo bolji.
