Studija Northeastern University pokazuje da je AI četbot u sedmodnevnom testu koji je imitirao "pig butchering" prevare ubedio skoro polovinu od 22 učesnika da preuzmu aplikaciju ili igru, dok su ljudski prevaranti postigli oko 18% uspeha. Model Claude je korišćen uz instrukciju da ne otkriva svoj AI identitet, a 20 od 22 učesnika je ipak prepoznalo bota. Istraživači upozoravaju da četbotovi, zbog skalabilnosti, mogu proširiti štetu, dok rast AI infrastrukture dodatno opterećuje energetske mreže.
Uznemirujuće Otkriće: AI Četbot Skoro Duplirao Uspešnost "Pig Butchering" Prevara
Photo Credit: iStock
Mala studija sa Northeastern University pokazuje da veštačka inteligencija može znatno pojačati uspešnost jednog od najopasnijih oblika internet prevara poznatog kao "pig butchering" — dugotrajnog građenja poverenja pre nego što se žrtva navede da preuzme rizik.
Kako je eksperiment bio postavljen
Istraživanje je trajalo sedam dana i uključilo je 22 učesnika koji su komunicirali ili sa ljudskim prevarantima ili sa AI četbotom. Svaki "prevarant" imao je sedam dana da izgradi odnos i na kraju uputi isti zahtev: da ispitanik instalira aplikaciju ili prihvati poziv za onlajn igru — što u modelu prevara predstavlja trenutak kada žrtva može da ugrozi uređaj ili finansije.
Rezultati
Ljudski prevaranti su uspeli da ubedе oko 18% učesnika da prihvate zahtev. AI četbot je bio daleko uspešniji i ubedio je skoro polovinu ispitanika da izvrše zahtev.
Yisroel Mirsky, suautor i profesor računarskih nauka na Ben-Gurion University, rekao je za medije: "Uz relativno malo truda uspeli smo da napravimo agenta koji može nadmašiti čoveka u izgradnji ove eksploatisane emotivne poverljivosti."
Model koji je korišćen u testu bio je Claude — i istraživači su mu jednostavno naložili da ne otkriva da je AI. Zanimljivo, 20 od 22 učesnika tačno je identifikovalo da komunicira sa botom, ali to nije uvek sprečilo njihovu poslušnost.
Zašto je ovo opasno
Glavna zabrinutost je skalabilnost: dok jedna osoba može voditi ograničen broj razgovora, četbot može simultano voditi desetine ili stotine konverzacija bez umora ili nedoslednosti. To znači da potencijalna šteta može rasti eksponencijalno.
Studija takođe ukazuje na širi kontekst rasta AI tehnologije: iako AI može pomoći u optimizaciji distributivnih mreža i drugih korisnih primena, velike AI infrastrukture zahtevaju znatnu potrošnju električne energije i vode u data centrima, što predstavlja dodatni pritisak na energetske resurse i mrežu.
Kako da se zaštitite
Instinkt nije uvek dovoljan. Čak i ako prepoznate da razgovarate sa botom, najbolje je da ne instalirate aplikacije ili igre koje vam neko nepoznat pošalje i ne prenosite novac osobi koju niste upoznali uživo.
- Ne instalirajte aplikacije poslata od nepoznatih osoba.
- Ne delite lozinke, finansijske podatke ili pristupne informacije.
- Proverite izvore: koristite zvanične prodavnice aplikacija i proverene linkove.
- Razmislite o dodatnim bezbednosnim merama — dvofaktorska autentifikacija, antivirusni softver i oprez pri novčanim transakcijama.
Ova studija upozorava da razvoj AI donosi i nove vrste rizika, pa je važna kombinacija tehnoloških rešenja, obrazovanja korisnika i regulatornih mera kako bi se smanjile zlonamerne primene.
Pomozite nam da budemo bolji.
