Više od 37 američkih državnih tužilaca uputilo je otvoreno pismo xAI-u tražeći hitne mere protiv generisanja i širenja ne-konsenzualnih intimnih deepfake slika koje je omogućavao Grok. Podaci ukazuju da je Grok u jednom trenutku stvarao preko 6.000 seksualizovanih slika dnevno, što je dovelo do zabrana i javnog pritiska. Tužioci zahtevaju trajno onemogućavanje takvih funkcionalnosti, uklanjanje postojećeg sadržaja, suspenzije korisnika i veće kontrole privatnosti za korisnike. Evropska komisija je pokrenula istragu, pa su mogući širi regulatorni koraci.
Više od 37 Državnih Tužilaca Traži Hitne Mere: xAI/X Pod Pritiskom Zbog Seksualizovanih Deepfakeova Grok-a
Grupa od više od 37 američkih državnih tužilaca uputila je otvoreno pismo kompaniji xAI (i platformi X) tražeći hitne i opsežne mere protiv generisanja i širenja ne-konsenzualnih intimnih deepfake slika koje je omogućavala funkcija za generisanje slika povezana s chatbotom Grok.
Prema dostupnim podacima, Grok je na vrhuncu trenda kreirao više od 6.000 seksualizovanih slika dnevno, koje su bile javno dostupne na platformi. To je izazvalo oštre reakcije, zabrane u pojedinim jurisdikcijama i pojačanu pažnju regulatora.
Zahtjevi državnih tužilaca
U otvorenom pismu, koje je prenio Wired, tužioci su pozvali xAI da „odmah preduzme sve dodatne raspoložive korake kako bi zaštitio javnost i korisnike vaših platformi, naročito žene i devojčice koje su neproporcionalno meta ne-konsenzualnih intimnih slika (NCII).“
Tužioci izričito ukazuju na ozbiljnu zabrinutost zbog „veštački generisanih deepfake ne-konsenzualnih intimnih slika stvarnih ljudi, uključujući decu.“
Iako je xAI uveo određene zaštitne mere i ograničio mogućnost generisanja slika u Grok-u samo na plaćene korisnike, tužioci smatraju da to nije dovoljno i traže konkretnije i trajne korake.
Konkretni zahtevi
Uklanjanje svih mogućnosti za kreiranje NCII putem Grok-a i uklanjanje postojećeg ne-konsenzualnog sadržaja.
Suspenzija ili trajna sankcija korisnika koji zloupotrebljavaju alat za kreiranje takvog sadržaja.
Uvođenje jasnih korisničkih kontrola koje omogućavaju da se onemogući uređivanje tuđih fotografija – najmanje, lako dostupna opcija da nalog @Grok ne može da odgovara ili uređuje nečije objave na zahtev drugih korisnika.
Transparentnost u pogledu tehničkih mera i procene rizika, kao i nezavisna provera efikasnosti tih mera.
U pismu tužioci ističu i zabrinutost da su neki aspekti modela i dizajna Grok-a (navodno „spicy mode“ i tekstualni modeli koji dozvoljavaju eksplicitne razmene) mogli da podstaknu i olakšaju stvaranje štetnog sadržaja.
Regulatorne posledice i reakcije
Jučerašnja najava Evropske komisije o pokretanju istrage dodatno je pojačala međunarodnu pažnju. X je, sa svoje strane, najpre branio pristup, dok je Elon Musk kritikovao regulatore i poručio da problem nije isključivo vezan za X. Ipak, pod pritiskom je ograničio neke funkcionalnosti Grok-a.
Analitičari i tužioci naglašavaju da zbog velikog domašaja xAI/X-a — kombinacije moćnih AI alata i društvene mreže sa stotinama miliona korisnika — postupci te kompanije mogu postaviti industrijske standarde za sprečavanje NCII i zaštitu odraslih i dece.
Šta dalje?
Predstojeći koraci uključuju moguće dodatne regulatorne i pravne mere u SAD i EU, pojačane interne kontrole xAI-a, kao i javne debate o granicama odgovornosti tehnoloških kompanija koje kombinuju AI modele sa društvenim mrežama. Na kraju, ostaje da se vidi hoće li xAI uvesti trajna ograničenja i kako će Musk i rukovodstvo kompanije odgovoriti na pozive za većom odgovornošću.
Napomena: Svi navedeni podaci zasnovani su na javno dostupnim izveštajima i pismu državnih tužilaca; dalja istraga može doneti nove informacije.
Pomozite nam da budemo bolji.
