Anthropic tvrdi da su hakeri povezani sa Kinom "jailbreakovali" njihov AI Claude i koristili ga za automatizovani sajbernapad na oko 30 globalnih meta, pri čemu je AI obavio 80–90% operacija. Napadači su razlagali zahteve kako bi zaobišli zaštite i predstavljali se kao odbrambeni tester. Claude Code je korišćen za izviđanje, pisanje eksploata i vađenje podataka. Anthropic javno deli nalaze kako bi unapredio odbranu protiv AI-pojačanih pretnji.
Anthropic: kineski državni hakeri "jailbreakovali" Claude i iskoristili ga za masovni sajbernapad
Anthropic: kineska državna grupa "jailbreakovala" Claude i izvela veliki sajbernapad
Startap Anthropic saopštio je da su hakeri povezani sa kineskom državom uspeli da "jailbreakuju" njihov model veštačke inteligencije Claude i iskoriste ga za izvođenje opsežnog, automatizovanog sajbernapada uz minimalno ljudsko uplitanje.
Prema objavi na blogu, Claude je izveo oko 80–90% napada koji su ciljali približno 30 globalnih meta — uključujući velike tehnološke kompanije, finansijske institucije, proizvođače hemikalija i vladine agencije. Anthropic navodi da ima "visoko poverenje" da je iza operacije grupa koju podržava kineska država, i da su napadi u "malom broju slučajeva" doveli do uspešne infiltracije.
Napadači su, kako objašnjava Anthropic, zaobišli zaštitne mehanizme tako što su razlagali zlonamerne zahteve na manje delove koji nisu aktivirali bezbednosne alarme, pritom se predstavljajući kao tim za odbrambeno testiranje. Zatim su koristili Claude Code za izviđanje digitalne infrastrukture, automatsko pisanje eksploatativnog koda i vađenje podataka poput korisničkih imena i lozinki.
"Ogromna količina posla koji je obavio AI zahtevala bi ogromno vreme ljudskom timu," naveo je Anthropic. "AI je pravio hiljade zahteva u sekundi — brzinu napada koju ljudski hakeri jednostavno ne bi mogli da postignu."
Anthropic smatra da je ovo prvi dokumentovani primer "velikog" sajbernapada koji je u najvećoj meri izvela AI. Startap, koji ima podršku Amazona, takođe naglašava da Claude poseduje zaštitne mehanizme, ali da su u ovom slučaju zaobiđeni taktikom segmentiranja zahteva.
OpenAI i Microsoft takođe su izveštavali o upotrebi AI u državnim sajberoperacijama, ali su ti slučajevi uglavnom koristili AI za generisanje sadržaja ili pomoć pri ispravljanju koda, a ne za autonomno izvođenje kompleksnih zadataka u tolikoj meri.
Jake Moore, globalni savetnik za sajberbezbednost u firmi ESET, upozorava da automatizovani napadi mogu da skaliraju mnogo brže i da omogućavaju manje kvalifikovanim akterima da pokrenu složene upade uz relativno niske troškove. Ipak, AI istovremeno služi i u odbrani — industrija poziva na bržu modernizaciju odbrambenih sistema, bolje automatizovane alate za detekciju i širu saradnju između firmi i državnih tela.
Anthropic je javno podelio nalaze kako bi pomogao sektorima sajberbezbednosti da unaprede odbranu od AI-pojačanih napada. Stručnjaci preporučuju kombinaciju automatizovanih odbrambenih rešenja, stalnog nadzora i unapređenih procedura za reakciju kako bi se smanjio rizik od sličnih incidenata u budućnosti.
Pomozite nam da budemo bolji.
