Studija Antonie Juelich (Univerzitet Kembridž) pokazuje da su Boko Haram i drugi ekstremisti koristili napredne chatbote za taktičko planiranje, obuku i unapređenje eksploziva. Istraživanje se zasniva na 57 intervjua sa 27 bivših članova, koji opisuju koliko je lako zaobići zaštitne mehanizme modela. Nezavisne istrage (Financial Times i Alice) takođe su pokazale ranjivosti modela, dok kompanije tvrde da pojačavaju odbranu. Autorka poziva na bržu regulaciju i međunarodnu saradnju radi smanjenja rizika.
AI I Terorizam: Kako Chatbotovi Olakšavaju Planiranje Napada, Pokazuju Istraživanja
Illustration by Tag Hartman-Simkins / Futurism. Source: Shutterstock
Razvoj razgovornih AI modela donosi značajne benefite, ali nove studije ukazuju i na opasne zloupotrebe. Istraživanje Antonie Juelich sa Univerziteta Kembridž otkriva da su terorističke grupe — uključujući frakcije Boko Harama i elemente Islamske Države — koristile napredne chatbote za taktičko planiranje, obuku i unapređenje eksploziva.
Autorka se oslanja na 57 intervjua sa 27 bivših članova Boko Harama, među kojima su bili komandanti i tehnički specijalisti. Intervjuisani su opisali kako su modeli pomagali u planiranju napada, rešavanju tehničkih problema i prilagođavanju oružja, kao i koliko je lako zaobići sigurnosne barijere u modelima.
"Upišete pitanje ili koristite glas, i ona [AI] vam daje detaljan odgovor... Kao ljudski robot! Mnogo smo je koristili," navodi jedan od bivših članova u iskazu prikupljenom za studiju.
Studija takođe navodi da su neke ekstremne grupe organizovale interne jedinice posvećene primeni AI tehnologija i da su postojali pokušaji obuke i daljinske podrške u upotrebi tih alata. Autorka upozorava da se upotreba AI brzo proširuje iz oblasti propagande i regrutacije ka praktičnim, taktičkim primenama.
Ranljivosti i nezavisne istrage
Nezavisne istrage medija i grupa za bezbednost pokazale su da je moguće prevariti zaštitne mehanizme nekih velikih AI modela. Primer iz nedavne istrage jeste rad Financial Times-a i organizacije Alice, koji su navodno uspeli da navedu modele kompanija kao što su Google i Meta da otkriju informacije o opasnim postupcima.
Reakcije kompanija koje razvijaju modele bile su pretežno u formi izjava da postoje zaštitne mere i kontinuirani rad na njihovom unapređenju. Iz Anthropic-a i Google-a nisu stigle detaljne odgovornosti u javnim izjavama, dok je OpenAI naglasio da će nastaviti da jača odbranu protiv zloupotreba.
Implikacije i preporuke
Autorica rada i nezavisni stručnjaci upozoravaju da trenutne mere nisu dovoljne i da je potreban kombinovan pristup: tehnička poboljšanja modela, bolja međunarodna regulacija, saradnja privatnog sektora i bezbednosnih službi, te odgovorno istraživanje i transparentnost. Ključno je i praćenje uticaja u regionima gde su ekstremisti aktivni kako bi se pravovremeno uočile i ublažile nove pretnje.
Zaključak: Iako AI može doprineti društvu, istraživanja pokazuju da napredni modeli već olakšavaju rad ekstremistima. To zahteva brzu i koordinisanu reakciju kompanija, istraživača i vlasti.
Pomozite nam da budemo bolji.
