Južnokorejske internet-detektivke u borbi protiv AI deepfake pornografije: 23 žene uklonile 318.000 snimaka

Pod transparentima „Solidarnost“ i „Stojimo uz žrtve“, grupa od 23 južnokorejske digitalne detektivke pretražuje internet kako bi iskorenila talas nezakonite pornografije generisane veštačkom inteligencijom.

Južna Koreja — država koja se ponosi vodećim proizvođačima pametnih telefona i memorijskih čipova — uživa u velikom tehnološkom ugledu. Ipak, uspeh ima mračnu stranu: organizacije za zaštitu prava upozoravaju da su „digitalni seksualni zločini“ rašireni, od skrivenih kamera do objavljivanja intimnih snimaka bez pristanka.

U Nacionalnom centru za odgovore na digitalne seksualne zločine, smeštenom u prostranom kancelarijskom prostoru u Seulu, 23 žene rade na otkrivanju i uklanjanju štetnog sadržaja. Njihov tim podnosi zahteve za uklanjanje, prati šifrovane mreže i, po potrebi, preduzima pravne korake kako bi zaštitio žrtve.

- Talas deepfakeova -

Prošle godine tim je uklonio 318.000 video-snimaka i fotografija — uključujući deepfakeove, snimke sa skrivenih kamera i intimne sadržaje podeljene bez pristanka — u ime 10.600 osoba, od kojih je 75% bilo žena i devojčica. Centar, osnovan 2018. nakon velikih protesta protiv skrivenih kamera, danas ima i 17 regionalnih odeljenja koja pružaju savetovanje, pravnu pomoć i prikupljaju dokaze za krivične postupke.

„Južna Koreja je reagovala brže nego mnogi drugi jer su digitalni seksualni zločini postali rasprostranjeniji ranije, a žene su se brzo i energično organizovale“, kaže Kim Mi-soon, rukovoditeljka državnog centra.

Jedna od preživelih, 33-godišnja Kim, rekla je da su joj deepfakeovi deljeni 2024. i na šifrovanim aplikacijama van dometa stručnjaka centra, ali je pohvalila podršku — uključujući finansijsku pomoć za dobijanje dijagnoze traume koja služi kao sudski dokaz. „Samostalno snalaženje kroz ceo pravni postupak dok trpite traumu bilo bi nemoguće“, izjavila je.

- Skala problema i tehnologija -

Digitalni seksualni zločini se menjaju i usavršavaju. Skandal „Nth Room“ iz 2020. otkrio je kako su muškarci iskorišćavali desetine žena i devojčica kroz plaćene „sextortion“ chat sobe. Od 2019. do 2023. globalna cirkulacija deepfake sadržaja porasla je za oko 550% prema istraživanju kompanije Security Hero, a gotovo 98% tog materijala čini AI-generisana pornografija sa ženama — više od polovine žrtava u toj analizi su iz Južne Koreje.

K-pop zvezde često su meta, ali sve više i obične žene i devojčice bivaju žrtve u zemlji gde policijski podaci pokazuju da digitalni seksualni zločini čine oko 40% svih seksualnih prestupa. Centar koristi sopstvene AI alate za praćenje i detekciju eksploatativnog materijala, uključujući sadržaje koji ciljaju decu.

„Ovaj posao nije lak“, kaže Kim Yun-hee, specijalistkinja za uklanjanje sadržaja. „Ali osećaj je nagrađujući kada nam klijenti kažu da smo im spasili život."

- Pravo, prevencija i društvena dimenzija -

Deepfake pornografija je protivzakonita u Južnoj Koreji: posedovanje može doneti do tri godine zatvora, dok tvorci mogu biti osuđeni na do sedam godina zatvora. Kazne su pooštrene 2024. nakon otkrića Telegram grupa koje su masovno delile AI-generisane seksualizovane snimke poznanica i članova porodice, često izrađene od fotografija sa društvenih mreža.

Strane ekspertkinje hvale napore Seula kao primer holističke podrške i ulaganja u tehnologiju, ali aktivistkinje upozoravaju da zakoni i uklanjanje sadržaja nisu dovoljni bez suočavanja s korenima problema — patrijarhalnim stavovima i nedovoljnom obrazovanjem o rodnoj ravnopravnosti.

„Ako se ne pozabavimo osnovnim uzrokom jačanjem rodne ravnopravnosti i obrazovanjem, nijedno uklanjanje neće biti dovoljno“, upozorava Kim Yeo-jin iz nevladine organizacije Korea Cyber Sexual Violence Response Center.

Centar ostaje primer kako kombinacija tehnologije, pravne podrške i savetovanja može ublažiti štetu — ali i podsećanje da je za trajno rešenje potrebna šira društvena promena.