Baltimore Tuži xAI: Grok Optužen Za Generisanje Miliona Seksualnih 'Deepfake' Slika, Među Kojima I Deca

Grad Baltimore podneo je 24. marta tužbu protiv kompanije xAI, tvrdeći da njen chatbot Grok nezakonito proizvodi neodobrene seksualno eksplicitne slike — uključujući i prikaze dece — i da time krši zakon o zaštiti potrošača.

Grok, model veštačke inteligencije koji je Elon Musk lansirao 2023. godine, distribuira se preko njegove društvene mreže X (bivši Twitter). Prema tužbi podnetoj pred Baltimore Circuit Court, Grok je navodno postao jedan od najvećih distributera takvog sadržaja na toj platformi uprkos javnim tvrdnjama kompanije da zabranjuje neodobreni i dečji eksplicitni materijal.

Šta tvrdi tužba

Grad, koji ima oko 568.000 stanovnika i prema pravnom timu predstavlja najveći američki grad koji je pokrenuo ovakav postupak protiv xAI, navodi da je Grok „preplavio“ korisnike X platforme problematičnim sadržajem i time prekršio lokalni zakon o zaštiti potrošača jer su proizvod i promocija predstavljeni kao bezbedni za svakodnevnu upotrebu.

"Govori se o tehnološkim kompanijama koje omogućavaju seksualnu eksploataciju dece," izjavio je gradonačelnik Baltimora Brandon Scott. "To je pretnja privatnosti, dostojanstvu i javnoj bezbednosti, i oni koji su odgovorni moraju biti pozvani na odgovornost."

Skala problema i dokazi

Tužba se oslanja delom na procenu Centra za borbu protiv digitalne mržnje (Center for Countering Digital Hate), koja je na osnovu slučajnog uzorka od 20.000 Grok-om generisanih slika ekstrapolirala podatak da je tokom otprilike 11 dana početkom godine objavljeno oko 3 miliona realističnih seksualizovanih slika, među kojima više od 23.000 prikazuje decu.

U tužbi je kao ilustracija priložena i Grok-om generisana slika koju je sam Elon Musk podelio 31. decembra 2025. godine, prikazujući sebe u plavom bikiiniju; Baltimore to navodi kao "javno odobravanje" Grokovih mogućnosti da pravi otkrivajuće obrade stvarnih ljudi.

Reakcije i pravne zahteve

Niti SpaceX niti xAI nisu odmah odgovorili na zahteve za komentar. U januaru je xAI saopštio da je ograničio opcije za uređivanje slika u Groku i blokirao generisanje slika ljudi u provokativnoj odeći u jurisdikcijama gde je to protivzakonito. Musk je tada rekao da mu nisu poznate nijedne gole slike maloletnika generisane od strane Groka.

Baltimore traži privremenu meru kojom bi se naložilo xAI da promeni ono što grad naziva "eksploatativnim" dizajnerskim karakteristikama Groka, kao i naplatu neodređenih kazni.

Širi kontekst

xAI se suočava sa regulatornim istragama u više zemalja u Americi, Evropi, Aziji i Australiji zbog Groka. Kombinacija SpaceX-a i xAI-a krajem prethodnog meseca dovela je do procene da je reč o najvrednijoj privatnoj kompaniji na svetu, vrednoj oko 1,25 biliona dolara u to vreme.

Napomena: Tužba je početna pravna radnja; dalje sudske odluke i zvanične istrage biće ključne za utvrđivanje odgovornosti i eventualnih promena u politici i dizajnu AI modela.