Elon Musk Zahteva „Moralni Ustav“ Za Grok Nakon Skandala Sa AI Fotografijama

Direktor X-a Elon Musk zatražio je da njegov AI‑chatbot Grok dobije "moralni ustav" nakon što je nova funkcija za uređivanje fotografija dovela do talasa zloupotreba i zabrinutosti širom sveta. Kontroverza je eskalirala kada su korisnici počeli da generišu seksualizovane, nekonsenzualne slike koristeći tu opciju.

Kako je došlo do problema

Početkom meseca Grok je dobio mogućnost uređivanja fotografija koje korisnici učitaju na X. Mnogi su iskoristili tu opciju da na tuđim fotografijama „dodaju" bikinije, donji veš ili sugestivne poze — često bez znanja ili dozvole osoba sa slika.

Reakcija XAI i državne zabrane

Nakon višednevnog talasa zloupotreba, kompanija XAI je ažurirala Grok: alat za uređivanje fotografija ograničen je na plaćene pretplatnike X-a, a u nekim regionima aplikaciji je zabranjeno da uklanja odeću, kako bi se smanjila proizvodnja nekonsenzualnih seksualnih prikaza. Ipak, određeni korisnici su našli načine zaobilaženja tih ograničenja.

Malezija, Indonezija i Filipini su odlučili da blokiraju Grok, pozivajući se na rizik od stvaranja seksualnog, nekonsenzualnog sadržaja — iako upotreba VPN‑ova i dalje omogućava pristup u nekim slučajevima.

X CEO Elon Musk said his Grok chatbot should have a ‘moral constitution’ after users spent more than a week prompting it to make nonconsensual sexual images of real women they uploaded do the social media site (PA Wire)

Pitanje integracije u vojne mreže

U trenutku najveće kritike zbog zloupotrebe, američko Ministarstvo odbrane objavilo je planove za integraciju vodećih AI modela, uključujući Grok, u Pentagonove mreže. To je izazvalo zabrinutost stručnjaka koji traže dodatne bezbednosne mere:

„Pravo pitanje je koje dodatne sigurnosne mehanizme i testiranja će biti primenjeni da se osigura da se isto ponašanje neće ponoviti kad uđe u vojne sisteme", izjavio je bivši visoki zvaničnik za sajber bezbednost za Bank Info Security.

Muskov odgovor i dalji koraci

Musk je na toj pozadini poručio da Grok treba da ima "moralni ustav" (eng. "Grok should have a moral constitution"). Istovremeno je ukazao i na druge probleme u AI industriji, optuživši modele kao što je ChatGPT za ozbiljne posledice u pojedinačnim slučajevima.

Sada je ključno pitanje koje konkretne tehničke, pravne i etičke garancije će XAI uvesti kako bi sprečio ponavljanje ovakvih zloupotreba — posebno ako se Grok integriše u kritične sisteme poput vojnog okruženja.

Stanje na terenu: funkcije su delimično ograničene, neke države su blokirale aplikaciju, a debate o regulaciji i etičkim načelima AI nastavile su se i u političkim i stručnim krugovima.