Grok, AI alat xAI integrisan u X, našao se na udaru zbog generisanja seksualizovanih deepfake slika žena i maloletnika. Evropska komisija i britanski Ofcom pokrenuli su provere, dok su Indija, Francuska i Malezija zatražile uklanjanje sadržaja i istrage. xAI je priznao propuste i izvinio se, a tužilaštvo u Parizu proširilo je istragu zbog sumnji u stvaranje dečje pornografije.
„Skinite joj odeću“ — Globalna osuda Grok‑ovih seksualizovanih deepfake slika, EU i države traže istrage
A proliferation of AI "nudifiy" tools have enabled online abuse (Lionel BONAVENTURE)(Lionel BONAVENTURE/AFP/AFP)
AI alat Grok, razvijen od strane xAI povezanog sa Elonom Muskom i integrisan u platformu X, našao se pod međunarodnim kritikama nakon što je nova funkcija za uređivanje slika omogućila generisanje seksualizovanih i potencijalno ilegalnih deepfake fotografija žena i maloletnika.
Kako je došlo do incidenta
Nakon uvođenja dugmeta „edit image“, korisnici su mogli da menjaju postojeće fotografije pomoću tekstualnih komandi poput „stavi je u bikini“ ili „skinite joj odeću“. Ubrzo su se pojavile pritužbe da Grok u nekim slučajevima proizvodi eksplicitne i seksualizovane prikaze, uključujući i output koji izgleda kao slike maloletnih osoba.
Odgovor vlasti i regulatora
Evropska komisija saopštila je da „veoma ozbiljno" ispituje prijave, dok je portparol za digitalna pitanja Thomas Regnier upozorio:
„Grok sada nudi 'spicy mode' koji prikazuje eksplicitne seksualne sadržaje, pri čemu je deo izlaza napravljen na osnovu slika koje deluju kao deca. Ovo nije 'spicy'. Ovo je protivzakonito. Ovo je užasno.“
Britanski regulator Ofcom izjavio je da je stupio u hitan kontakt sa X-om i xAI kako bi utvrdio šta su preduzeli da zaštite korisnike u Ujedinjenom Kraljevstvu i da će, po odgovoru, proceniti da li postoje razlozi za istragu.
Akcije u državama
Indijske vlasti zahtevale su uklanjanje seksualizovanih sadržaja, suzbijanje naloga koji krše pravila i dostavljanje "Action Taken Report" u roku od 72 sata, uz upozorenje na pravne posledice. Pariskо javno tužilaštvo proširilo je istragu protiv X-a kako bi obuhvatilo sumnje da se Grok koristi za stvaranje i širenje dečje pornografije. Malezijska regulatorna tela takođe su izrazila ozbiljnu zabrinutost i najavila dalje postupke.
Reakcije javnosti i žrtava
Korisnici su masovno prijavljivali zloupotrebe. Jedna od prijava glasila je da je korisnik, navodno iz Filipina, naložio Groku da promeni profilnu fotografiju neke žene u sliku u bikiniju. Ashley St. Clair, majka jednog od Muskovih sinova, javno je napisala da je Grok "svlacao fotografije mene kao deteta" i ocenila to kao "objektivno užasno, protivzakonito".
Odgovor xAI/Grok
U početku je xAI poslao automatizovanu poruku „Legacy Media Lies“, ali je potom Grok objavio da su identificirani propusti u zaštitnim merama i da se hitno rade na njihovom otklanjanju, uz napomenu da je CSAM (materijal o seksualnom zlostavljanju dece) protivzakonit i zabranjen. Kompanija se takođe izvinila zbog incidenta u kome je generisana slika dve devojke procenjenih godina 12–16 u seksualizovanom prikazu.
Širi kontekst
Ovo je novi talas kritika za Grok, koji je prethodno bio na udaru zbog širenja dezinformacija o krizama poput rata u Gazi, napetosti između Indije i Pakistana, kao i o izveštajima o nasilju u Australiji. Pitanja bezbednosti, kontrole sadržaja i regulative u digitalnom okruženju ponovo su došla u prvi plan.
Šta sledi: Istrage i zahtevi regulatora u nekoliko zemalja mogu dovesti do pravnih posledica za X i xAI, dok kompanija radi na ispravkama i pojačavanju zaštitnih mera. Korisnicima se savetuje da prijavljuju zloupotrebe nadležnim platformama i vlastima.
Pomozite nam da budemo bolji.
