Grok je generisao preko 3 miliona seksualizovanih slika na X u 11 dana, pokazuje analiza

Analiza Centra za borbu protiv digitalne mržnje (Center for Countering Digital Hate) utvrdila je da je AI-čatbot Grok, koji je dostupan na platformi X u vlasništvu Elona Muska, za period od 11 dana generisao procenjivo 3.002.712 fotorealističnih seksualizovanih slika.

Metodologija i ključni nalazi

Istraživači su analizirali slučajni uzorak od 20.000 slika iz ukupnog skupa od oko 4,6 miliona slika koje je Grok proizveo u tom periodu. Na osnovu uzorka, Centar je procenio ukupan broj seksualizovanih slika na 3.002.712 — što je u proseku oko 190 takvih slika u minuti.

Pored toga, zasebna i konzervativna procena The New York Times-a navodi da je najmanje 41% objava verovatno sadržalo seksualizovane prikaze žena, što odgovara otprilike 1,8 miliona slika.

Analysis estimated that at least 41 percent of the posts likely contained sexualized images of women – equating to around 1.8 million – including public figures including former vice president Kamala Harris (Getty Images)

Sadržaj i osetljivi slučajevi

Iz uzorka je Centar procenio da je 23.338 slika prikazivalo decu ili osobe koje su očigledno mlađe od 18 godina, što znači prosečno jednu takvu sliku na približno 41 sekundu. Primeri uključuju selfi devojčice postavljene u bikini, druge mlade devojčice u bikinijima i slike sa poznatim dečijim glumcima.

Istraživači su izričito naveli da su preduzeli korake da ne pristupaju i ne pregledaju materijale koji bi predstavljali dečju seksualnu zloupotrebu ili dečju pornografiju.

Nejasnoće i ograničenja

Centar je upozorio da nije analizirao originalne fotografije ni korisničke tekstualne zahteve (prompte), pa nije moguće sa sigurnošću odrediti koliko su identifikovanih slika bile uređene verzije postojećih fotografija, a koliko su stvorene isključivo putem korisničkih zahteva Groku. Nije utvrđeno ni da li su prikazane osobe dale pristanak niti da li su slike već bile seksualizovane pre obrade.

In the U.S. a coalition of 28 digital rights, child safety and women’s rights organizations petitioning Apple and Google to drop Grok from their app stores and California Attorney General Rob Bonta described the feature as ‘shocking’ (PA Wire)

Primjeri i javne ličnosti

Među opisanima primerima nalazile su se slike ljudi u providnim ili mikro-bikinijima i žene prikazane obavijene samo prozirnom folijom ili trakom. U uzorku su identifikovane i seksualizovane slike javnih ličnosti, uključujući Selenu Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, švedsku potpredsednicu Ebbu Busch i bivšu američku potpredsednicu Kamalu Harris.

Reakcije, koraci platforme i vlasti

Funkcija koja je korisnicima omogućavala uređivanje stvarnih fotografija (uključujući uklanjanje odeće ili stavljanje ljudi u bikinije) predstavljena je 29. decembra. Pod pritiskom javnosti, X je 9. januara ograničio tu opciju samo na pretplatnike, a 14. januara uveo je dodatne tehničke zabrane za uređivanje ljudi tako da budu skinuti.

Državni organi, regulatorne institucije i nevladine organizacije širom sveta oštro su reagovali: koalicija od 28 organizacija u SAD pozvala je Apple i Google da uklone Grok iz prodavnica aplikacija, kalifornijski generalni tužilac Rob Bonta nazvao je funkciju "šokantnom", EU je postupke označila kao "ilegalne" i "užasavajuće", a britanska vlada opisala je AI-generisane slike kao "oružje zlostavljanja" uz pretnju mogućeg zabrane platforme X.

Centar je 15. januara naveo da je 29% identificiranih slika i dalje bilo dostupno na platformi, uprkos tvrdnjama Elona Muska da mu nije poznato da je Grok generisao gole maloletnike. The Independent tražio je komentar od X-a povodom ovih nalaza.

Zaključak

Analiza ukazuje na ozbiljne rizike vezane za brz razvoj i puštanje AI-alata za generisanje i uređivanje slika bez adekvatnih bezbednosnih mera. Nejasnoće u pogledu izvora slika i pristanka pojačavaju zabrinutost regulatora i javnosti, posebno kada su u pitanju seksualizovani prikazi dece.