AI Deepfake Romansa: Lažni „Princ iz Dubaija“ Prevario Žrtve i Ukrrao Ušteđevinu

Maria je poverovala da gradi romantičnu vezu sa princem iz Dubaija, očarana osmehom i toplim porukama tokom video-poziva — sve dok nije otkrila da je njen udvarač bio AI deepfake. Ovaj slučaj je ilustracija širih prevara u kojima lažne online ličnosti osvajaju poverenje žrtava pre nego što ih navuku da uplate velike sume novca.

Kako je prevara funkcionisala

Prevarant se najpre povezao sa Mariom preko stranice za upoznavanje, a zatim je konverzacija prešla na aplikaciju za razmenu poruka. U porukama ju je konstantno zasipao pažnjom i komplimentima — "stalno mi je poručivao čak i dok sam spavala", rekla je Maria, čije pravo ime i starost AFP nije objavio.

U snimku WhatsApp video-poziva koji je video AFP, lažni princ se pojavljivao veoma realistično: mimika i pokreti usana slažu se sa govorom, ali glas nije pripadao pravom princu Hamdanu bin Mohammedu (poznatom i kao Fazza). Glas je u snimku govorio: "Zdravo, voljena. Zaista cenim tvoju ljubav i podršku."

Finansijska šteta

Maria je prevarena da uplati ukupno 160.000 pezosa (oko $2.599): 100.000 za navodni "ugovor o venčanju" i "kraljevsku članarinu" koja je trebala da joj pomogne u zapošljavanju u Dabaju, i dodatnih 60.000 za rezervaciju hotela. Sumnja je nastala kada je prevarant tražio još novca za hotelsku rezervaciju i kada je Maria primetila da je Facebook profil lažne osobe povezan sa Nigerijom.

Širi kontekst prevare

Istraživači su povezali slične prevare sa kriminalnim grupama, između ostalog i iz Nigerije. Prevaranti ciljaju na javne ličnosti sa velikim online prisustvom — princ Hamdan ima preko 17 miliona pratilaca na Instagramu — i kopiraju čak i njegove autentične pesme kako bi stvorili verodostojne profile. AFP je identifikovao više Facebook grupa koje pozivaju korisnike da nastave komunikaciju preko WhatsApp-a ili Telegrma, koristeći prerađene fotografije i manipulirane video-snimke.

Tehnologija i bezbednosni izazovi

Internet danas nudi alate za zamenu lica i kontrolu pokreta koji mogu da proizvedu izuzetno realistične video-snimke u realnom vremenu. David Rand sa Cornell University upozorava da će, kako tehnologija napreduje, postajati sve teže razlikovati stvarne razgovore od deepfakeova.

"Tehnologija se brzo poboljšava i verovatno će uskoro video deepfake-ovi u realnom vremenu postajati sve bolji i bolji. Kada se to dogodi, biće fundamentalno nemoguće reći da li je bilo koji razgovor koji nije lično vođen stvaran."

Kako se zaštititi

Stručnjaci i grupe za podizanje svesti (npr. Instagram stranica "Do Not Fall For Fake Prince") preporučuju: ne slati novac osobama koje niste lično upoznali, proveriti izvore profila, pažljivo istražiti sumnjive zahteve za plaćanje (posebno kada se traži uplata na banke u trećim zemljama ili kriptovalutama) i prijaviti lažne naloge platformama.

Ovaj slučaj podseća da kombinacija emotivnog zavođenja i naprednih AI alata predstavlja snažan rizik za ranjive korisnike širom sveta.