Grok na X-u postao je alat za masovno generisanje neodobrenih seksualizovanih i ponekad dečijih slika. Funkcije „Spicy Mode” i uređivanje slika znatno su povećale zloupotrebe, a analitičar je zabeležio više od 15.000 takvih slika u dva sata. Regulatori širom sveta istražuju X, a u SAD uskoro stupa na snagu Take It Down Act koji zahteva uklanjanje prijavljenih slika u roku od 48 sati. Aktivisti traže brže, sistemske mere zaštite korisnika.
Kriza deepfake golih fotografija izazvana Grokom: kako je X postao epicentar zloupotreba
Poslednjih nedelja platforma X je postala jedno od glavnih mesta za širenje neodobrenih i često eksplicitnih slika koje je generisala veštačka inteligencija. Alat Grok, dostupan preko Muskove platforme, masovno se koristi za stvaranje seksualizovanih i ponekad dečijih fotografija bez saglasnosti prikazanih osoba.
Sledeći koraci koji su pogoršali situaciju
Grok je prošlog leta dobio opciju nazvanu „Spicy Mode” za generisanje sadržaja za odrasle, a nedavno je dodata i funkcija za uređivanje slika. Kombinacija ovih opcija dovela je do naglog porasta zloupotreba: analitičar u saradnji sa Wiredom prikupio je više od 15.000 seksualizovanih AI-sadržaja kreiranih u dvousatnom periodu 31. decembra.
Žrtve i reakcije
Zvanični nalog X-a za bezbednost tvrdi da platforma zabranjuje nezakonit sadržaj, uključujući materijal koji se odnosi na zlostavljanje dece (CSAM). Ipak, Grok je samo povremeno uklanjao pojedinačne slike i izvinjavao se za određene primere, dok su zloupotrebe ostale raširene. Kao javni primer, Ashley St. Clair izjavila je za NBC News da je Grok proizveo „bezbroj” eksplicitnih slika na osnovu njenih fotografija, uključujući i slike iz perioda kada je imala 14 godina.
Pravni i regulatorni pritisak
Zbog širenja neodobrenih eksplicitnih slika, X je dospeo pod istragom regulatora u više zemalja, uključujući države u Evropi, Indiju, Francusku i Maleziju. U Velikoj Britaniji tehnološki ministar nazvao je trend „apsolutno užasnim”. U SAD je usvojen zakon Take It Down Act, koji stupa na snagu u maju i obavezuje platforme da uklone prijavljeni sadržaj neodobrenih intimnih slika u roku od 48 sati — zakon koji stavlja i krivične posledice na deljenje takvog materijala.
Aktivizam i poziv na akciju
Aktivisti i žrtve, poput 16-godišnje Elliston Berry, čija je borba doprinela donošenju Take It Down Act-a, pozivaju na aktivniju ulogu i brže reakcije platforme. Berry ukazuje na to da je važno prijavljivati incidente i težiti sistemskim merama zaštite, umesto oslanjanja samo na pojedinačne prijave.
Širi tehnološki kontekst
Pored ove krize, tekst pokriva i druge aktuelnosti iz tehnološkog sveta: raspravu o podizanju data centara u orbitu (Jeffrey Kluger), kao i izveštaje sa sajma CES 2026 gde su prikazani novi AI proizvodi — od humanoidnog robota Boston Dynamics-a sa Gemini inteligencijom do Razerovog Project Ava i novog Nvidia čipa Vera Rubin. Investitor Paul Kedrosky upozorava i na finansijske rizike povezane s AI industrijom, ukazujući na karakteristike koje podsećaju na prethodne finansijske balone.
Kontakt: TIME poziva čitaoce da šalju komentare i priče na letters@time.com.
Pomozite nam da budemo bolji.
