Video sa nastupa Jennie na Summer Sonicu prikupio je više od 10 miliona pregleda i izazvao sumnju da je manipulisan deepfake tehnologijom. Iako je Južna Koreja 2024. pooštrila kazne za deljenje lažnog seksualnog sadržaja do sedam godina zatvora, identifikacija anonimnih naloga i prikupljanje dokaza ostaju izazov. OA Entertainment je najavila pravne korake, dok stručnjaci pozivaju na kombinaciju pravnih, tehničkih i obrazovnih mera.
Jennie i Deepfake Na Summer Sonic: Zašto Zakonske Pretnje Ne Dovoljavaju Da Se Zaustavi AI Zlostavljanje
Photo Credit: Getty Images
Video sa nastupa Jennie iz grupe Blackpink na japanskom festivalu Summer Sonic, koji je prikupio više od 10 miliona pregleda, izazvao je sumnju među fanovima da je reč o deepfake snimku. Klip prikazuje trenutak koji je delovao kao "kvar garderobe": pevačica se okrenula leđima publici, namestila odeću i nastavila nastup, ali su korisnici primetili moguće znake montiranja i zatražili uklanjanje materijala.
Šta kaže istraga i mediji
South China Morning Post je opisao slučaj kao novi fokus u južnokorejskoj borbi protiv seksualnog zlostavljanja omogućенog veštačkom inteligencijom. Prema izveštaju, nalog za koji se veruje da je prvi objavio klip je suspendovan, ali policijske ili tužilačke mere u tom konkretnom slučaju još nisu objavljene.
Pravni okvir i izazovi
Južna Koreja je 2024. pooštrila zakonodavstvo nakon otkrivanja grupa koje su delile lažne slike i video-snimke žena i devojčica na enkriptovanim kanalima, uvodeći kazne do sedam godina zatvora za deljenje takvog sadržaja. Ipak, stručnjaci ističu da su novi zakoni samo jedan deo rešenja.
„Kod anonimnih naloga može potrajati dugo da se identifikuje stvarni korisnik. Istražitelji često moraju da kontaktiraju operatere serverskih usluga u inostranstvu da bi utvrdili ko stoji iza naloga pre nego što osoba ugasi nalog ili uništi dokaze,” rekao je advokat An Gab-chul iz Gammyung Law Firm u Seulu.
Zašto je dokazivanje teško?
Deepfake snimci mogu se brzo širiti, a kopije i snimci ekrana ostaju dostupni i nakon uklanjanja originalne objave. Da bi hipotetična krivična ili građanska tužba uspela, istražitelji moraju da utvrde da li je materijal falsifikovan, ko ga je prvi objavio i da li su delitelji znali da je u pitanju montaža—a to često zahteva međunarodnu IT-forenziku i saradnju platformi.
Odgovor industrije i kulturni pristupi
OA Entertainment je 18. avgusta objavila da je identifikovala kontinuirano neprimereno ponašanje usmereno protiv Jennie, najavila saradnju s advokatima i obećala "nultu kompromisnost ili popustljivost" u preduzimanju građanskih i krivičnih postupaka. Organizacije poput Amnesty International Korea i pravne kancelarije rade i na pravnim i na kulturnim inicijativama koje ciljaju koren problema, ističući da samo stroži zakoni nisu dovoljni.
Širi značaj
Ovaj slučaj pokazuje kako AI-generisani sadržaj može da nanese štetu ne samo poznatim ličnostima već i običnim ljudima, pretvarajući privatne situacije u javne, lako pretražive i trajne dokaze javne sramote. Pored pravnog odgovora, stručnjaci pozivaju na tehnička rešenja (bolju detekciju i brže uklanjanje), međunarodnu saradnju i obrazovne kampanje koje će smanjiti kulturu deljenja takvog sadržaja.
Zaključak: Jennie slučaj je upozorenje da su izazovi vezani za deepfake i dalje kompleksni — zahteva se kombinacija zakonskih, tehnoloških i društvenih mera kako bi se problem efikasno suzbio.
Pomozite nam da budemo bolji.
