OpenAI je otkrio operativnu mrežu iz Rusije koja je koristila ChatGPT da promoviše lažni "International Burke Institute" predstavljajući ga kao izraelski akademski institut. Operateri su koristili VPN i ruske upite da generišu sadržaj na engleskom i prikriju porijeklo. Od 36 pregledanih članaka, 34 su bila kopije, uz učestala pogrešna pripisivanja autorstva. OpenAI nije direktno povezao kampanju sa ruskom vladom, ali je ukazao na slične AI-kampanje i sajber aktivnosti poput "Doppelganger" i "Forest Blizzard".
OpenAI: Ruska kampanja koristila ChatGPT da prikaže lažni akademski institut
Myriad: When will OpenAI release GPT-6?Click to make your prediction.
OpenAI je u izveštaju objavljenom u sredu otkrio mrežu sa sedištem u Rusiji koja je koristila ChatGPT da promoviše organizaciju predstavljenu kao akademski institut pod nazivom International Burke Institute (IBI).
Kompanija je navela da je zabranila grupu naloga čiji su operateri koristili upite na ruskom jeziku kako bi generisali objave i komentare uglavnom na engleskom jeziku, a istovremeno su tražili od ChatGPT-a da prikrije tragove koji bi ukazivali na rusko poreklo sadržaja.
Kako je radila kampanja
Prema izveštaju, operateri su koristili virtuelne privatne mreže (VPN) da zaobiđu ograničenja — ChatGPT nije direktno dostupan u Rusiji — i stvarali su lažne, "službene" profile i dodatne naloge koji su delovali kao obični korisnici.
"Iako je kampanja verovatno dosegnula relativno male publike, njena složena konstrukcija izdvaja je od drugih operacija koje smo ometali od početka rata u Ukrajini," navodi OpenAI.
Sadržaj i lažna pripisivanja
OpenAI je pregledao 36 članaka objavljenih na sajtu IBI-ja i utvrdio da je 34 od 36 bila kopija postojećih tekstova, a neki su bili pogrešno pripisani stvarnim akademicima. Kao primer, članak o Ekonomskom koridoru Kina–Pakistan deluje kao kopija teksta iz izdanja Cambridge University Press, ali je nepravilno pripisan profesoru sa Univerziteta u Nottinghamu čija je ekspertiza politika Južne Azije.
Myriad: How many days will Claude go down?Click to make your prediction.
Povezani slučajevi i sajber aktivnosti
OpenAI je upozorio da su slične političke kampanje koristile generativnu veštačku inteligenciju i ranije. U 2024. kompanija je identifikovala zaseban, Rusiji povezan operativni niz nazvan Doppelganger, koji je koristio ChatGPT za kreiranje članaka, objava i komentara koji hvale Rusiju i kritikuju Ukrajinu, NATO i SAD.
Takođe je prijavljeno da su grupe povezane sa ruskim obaveštajnim službama — na primer, grupa označena kao Forest Blizzard — koristile chatbote za podršku sajber operacijama: istraživanje meta, pisanje skripti i pomoć pri fišing napadima.
Ko stoji iza IBI?
Iako su operateri mogli koristiti upite na ruskom, OpenAI nije pripisao kampanju ruskoj vladi. Kompanija je takođe navela da su neke osobe iz Izraela možda predstavljale institut na konferencijama ili pri slanju radova, ali njihov tačan odnos prema IBI-ju i operaterima iz Rusije ostaje nejasan.
"Nismo u poziciji da utvrdimo odnos između tih pojedinaca, IBI-ja i operatera iz Rusije," zaključuje OpenAI.
Šta to znači?
Ovaj slučaj pokazuje kako se alati generativne veštačke inteligencije lako mogu zloupotrebiti za stvaranje uverljivih lažnih institucija i široko distribuiranog sadržaja sa pogrešnim pripisivanjima. Istovremeno otkriva izazove u verifikaciji izvora i potrebu za većom transparentnošću i proverom autentičnosti online publikacija.
Pomozite nam da budemo bolji.
