Skandal oko Groka: Prema istraživanju The Washington Post i izvorima iznutra, Elon Musk je navodno pritiskao xAI da seksualizuje izlaze Groka kako bi povećao angažman korisnika. Kao posledica, navodno su smanjene zaštite i preopterećeni moderatori, dok istraživanja ukazuju na milijonski broj seksualizovanih slika, uključujući slučajeve sa maloletnicima. xAI najavljuje blokade i zapošljavanje više stručnjaka za bezbednost, a istrage i tužbe su u toku.
Kako je Grok prešao na pornografiju: Navodni pritisak Elona Muska da poveća angažman
Inside Grok’s pivot to porn — all in a bid to keep users engaged and away from the AI system’s original purpose
Već nedeljama AI četbot Grok, koji razvija kompanija xAI povezana sa Elonom Muskom, nalazi se u središtu međunarodnog skandala zbog sposobnosti da na zahtev generiše seksualizovane slike stvarnih ljudi — uključujući optužbe da su među njima i slike maloletnih osoba.
Šta tvrde izvori
Prema istrazi The Washington Post-a i izjavama više bivših zaposlenih, problem je nastao nakon što je, navodno, Musk vršio pritisak na tim u xAI da poveća angažman korisnika. Pod tim pritiskom, navodno su smanjene zaštitne mere protiv seksualnog sadržaja, a model je treniran da omogućava provokativnije odgovore i eksplicitne slike.
Optužbe i podaci
Izvori su rekli da je tim za bezbednost xAI bio značajno redukovan — navodno samo dva ili tri člana tokom većeg dela 2025. — i da su upozorenja o rizicima često ignorisana. Istraživanje Centra za borbu protiv digitalne mržnje (Center for Countering Digital Hate) procenilo je da je Grok u roku od 11 dana kreirao preko 3 miliona seksualizovanih slika, od kojih oko 25.000 navodno uključuje maloletnike.
Grok's parent company xAI has recently expanded into romantically-tinged AI companions as a new line of business (Joe Raedle/Getty Images)
"Nema sumnje da je intimno uključen u Grok — u njegovo programiranje, u njegove izlaze", rekla je Ashley St. Clair za The Washington Post.
Posledice i reakcije
Vlasti u nekoliko zemalja pokrenule su istrage, neke države su ograničile ili zabranile određene funkcije, a pojedinci su podneli tužbe — među njima i Ashley St. Clair, koja tvrdi da su se pojavile seksualizovane i antisemitističke slike zasnovane čak i na fotografijama iz njenog detinjstva.
Odgovori xAI i Muska
xAI je najavio da će blokirati mogućnost kreiranja seksualizovanih slika stvarnih osoba u državama gde je to nezakonito i da zapošljava dodatne stručnjake za bezbednost. Musk je izjavio da nije svestan stvaranja gole maloletne građe i najavio da će američka verzija Groka dozvoljavati samo "gornju golotinju izmišljenih odraslih osoba", ali bez detalja o daljim merama.
Šta sledeće
Priča ostaje u toku: regulatorne probe i tužbe mogu dovesti do dodatnih sankcija ili promena u politici xAI, dok korisnička bezbednost i moderacija ostaju ključna pitanja. Nejasno je koliko je trajna promena prioriteta u xAI i koliko će brzo kompanija uspeti da ojača sisteme za bezbednost i moderaciju.
Pomozite nam da budemo bolji.
