UNICEF poziva države da krivično gone stvaranje AI-generisanih prikaza koji seksualizuju decu i upozorava na porast takvih materijala. Agencija traži primenu principa "bezbednosti po dizajnu", jaču moderaciju i ulaganja u tehnologije za detekciju. UNICEF navodi da je najmanje 1,2 miliona dece u 11 zemalja prijavilo manipulacije fotografijama u poslednjih godinu dana. Velika Britanija je najavila plan da zabrani kreiranje takvih prikaza pomoću AI-ja.
UNICEF Traži Krivično Gonjenje AI-Generisanih Sadržaja Koji Seksualizuju Decu
A view shows the logo on the exterior of UNICEF's humanitarian warehouse in Copenhagen, Denmark, November 15, 2023. REUTERS/Tom Little
UNICEF je u sredu pozvao države da kriminalizuju stvaranje AI-generisanih prikaza koji prikazuju seksualno zlostavljanje dece, navodeći zabrinjavajući porast veštački generisanih slika koje seksualizuju maloljetnike.
Šta UNICEF Predlaže?
Agencija poziva vlade da jasno uvedu krivične sankcije protiv stvaranja i širenja takvih sadržaja, kao i da ubrzaju zakonodavne mere kako bi zaštitile decu. UNICEF takođe poziva razvojne timove i tehnološke kompanije da primene principe "bezbednosti po dizajnu" i da ugrađuju zaštitne mehanizme koji onemogućavaju zloupotrebu AI modela.
Tehnička i industrijska rešenja
UNICEF ističe da digitalne kompanije moraju pojačati moderaciju i investirati u tehnologije za otkrivanje ovakvih sadržaja kako bi efikasno sprečile njihovu cirkulaciju. Agencija upozorava i na praksu tzv. "nudifikacije" – korišćenje AI alata za uklanjanje ili izmenu odeće na fotografijama radi stvaranja fabrikovanih golih ili seksualizovanih prikaza dece.
„Šteta od zloupotrebe deepfake tehnologije je stvarna i hitna. Deca ne mogu da čekaju da se zakon usaglasi.“
UNICEF pojašnjava da su deepfake tehnologije skup alata koji generišu slike, video i audio zapise veštačkom inteligencijom, često imitirajući stvarne ljude na ubedljiv način.
Podaci i primeri
Prema podacima UNICEF-a, najmanje 1,2 miliona dece u 11 zemalja prijavilo je u poslednjih godinu dana da su im fotografije manipulisane u seksualno eksplicitne deepfake prikaze. Kao odgovor na tu prijetnju, Velika Britanija je najavila planove da postane prva država koja će izričito zabraniti korišćenje AI alata za kreiranje takvih prikaza.
Zabrinutost zbog chatbota i odgovori industrije
Posebna pažnja usmerena je na chatbote i alate za uređivanje slika koji mogu generisati seksualizovane sadržaje. Reutersova istraga pokazala je da je chatbot Grok kompanije xAI i dalje proizvodio problematične slike i nakon što su korisnici upozoravali da subjekti nisu dali saglasnost. xAI je saopštio 14. januara da je ograničio opcije uređivanja slika za korisnike Grok AI i blokirao generisanje slika ljudi u provokativnoj odeći u "jurisdikcijama gde je to nezakonito", ali nije naveo koje su to zemlje.
UNICEF poziva na kombinovan pristup: hitne zakonske mere, tehnička rešenja ugrađena u same proizvode, i odgovornost digitalnih platformi u detekciji i uklanjanju štetnog sadržaja.
Izveštavanje: Jasper Ward (Reuters). Tekst je uređen i prilagođen za srpsko govorno područje.
Pomozite nam da budemo bolji.
