Anthropic je između januara i jula zaustavio više državnih kampanja koje su koristile njihove AI modele za nadzor disidenata i manjina. Napadi su potekli iz Kine, Irana i zapadne Afrike i ciljale su dijaspore poput Hongkonga, Tibeta i iranskih zajednica u inostranstvu. Izveštaj takođe opisuje zloupotrebe kao što su "distilling" podataka za treniranje drugih modela, preusmeravanje stotina hiljada zahteva i rizična biološka istraživanja.
Anthropic: Kina i Iran Koriste AI Za Špijunažu — Claude U Središtu Državnih Kampanja
Anthropic says it has shut down multiple cases of state-sponsored surveillance operations that used its artificial intelligence (AI) models (SEBASTIEN BOZON)
Anthropic, američka laboratorija za veštačku inteligenciju, saopštila je da je između januara i jula zaustavila više državnih kampanja nadzora koje su koristile njihove modele, među kojima je i Claude.
Prema izveštaju kompanije, napadi su potekli iz Kine, Irana i zapadne Afrike i usmereni su na dijaspore i disidentske zajednice koje su te države istorijski nadgledale — uključujući prodemokratske aktiviste u Hongkongu, tibetanske grupe, zajednice Falun Gonga i iranske manjine u inostranstvu.
Kako je AI korišćen
U opisanom slučaju iranski akteri razvili su metod za identifikaciju ljudi preko naloga na društvenim mrežama. U drugom primeru, ugovarač angažovan za malijske službe bezbednosti koristio je Claude za projektovanje softvera koji je omogućio prikupljanje obaveštajnih podataka. Izveštaj konstatuje da se "AI sada koristi umesto inženjerske radne snage".
Distilling i krađa podataka
Anthropic optužuje neke kineske developere da su koristili Claude na obmanjujući način: generisali su odgovore za svoje korisnike dok su istovremeno "destilovali" rezultate kako bi trenirali sopstvene modele. U jednom slučaju, Moonshot je tokom deset dana prosledio gotovo 300.000 korisničkih zahteva Anthropic-u preko mreže od 5.380 lažnih naloga, od kojih je većina delovala da potiče iz Singapura i Japana. Deo prosleđenih podataka mogao je sadržati osetljive informacije, što predstavlja potencijalno kršenje pravila privatnosti.
Rizična istraživanja i druge zloupotrebe
Anthropic je takođe detektovao i blokirao pokušaje korišćenja njihovih modela za dizajn oružja, stvaranje prevara i izvođenje rizičnih bioloških istraživanja. Istraživanja koja su bila predmet blokade uključivala su radove vezane za virus chikungunya koji prenose komarci, visoko patogene sojeve ptičjeg gripa, porodicu virusa koja uključuje velike boginje i mpoks, kao i studije o otrovima i toksinima. U tim slučajevima Anthropic nije javno identifikovao istraživače, navodeći da su neki od njih radni naučnici i da njihovo izlaganje može prouzrokovati štetu.
"Ne tvrdimo da su svi implicirani imali nameru da nanesu štetu, ali smo preduzeli mere da onemogućimo zloupotrebu naših modela", navodi se u izveštaju.
Izveštaj dodatno upozorava na rastući trend državno podstaknutog nadzora pomoću AI i na neophodnost strožih mera zaštite privatnosti i kontrole izvođenja modela kako bi se sprečile zloupotrebe.
Pomozite nam da budemo bolji.
