Alijansa Five Eyes upozorava da najnapredniji AI modeli brzo napreduju i da bi mogli za nekoliko meseci nadmašiti postojeće metode sajber odbrane. Poseban razlog za zabrinutost su Anthropicovi modeli Mythos za koje je pokazano da otkrivaju softverske ranjivosti. Agencije pozivaju na hitnu modernizaciju sistema, integraciju AI u bezbednosne operacije i strože kontrole pristupa kako bi se smanjio rizik od velikih incidenata.
Five Eyes Upozorava: Napredni AI Može Nadmašiti Sajber Odbranu Za Nekoliko Meseci
AI on pace to bypass cybersecurity systems soon, "Five Eyes" spy partners warn
Najnapredniji modeli veštačke inteligencije napreduju toliko brzo da bi mogli da nadjačaju postojeće prakse sajber bezbednosti već u narednim mesecima, upozorila je obaveštajna alijansa Five Eyes (Velika Britanija, SAD, Australija, Kanada, Novi Zeland).
Šta su agencije saopštile
U zajedničkom saopštenju, agencije navode da „brz tempo razvoja vrhunske veštačke inteligencije znači da pretpostavke o sajber rizicima mogu zastareti za mesece, a ne godine.“ Dodaju da AI "snižava prepreke za zlonamerne aktere i povećava brzinu i složenost napada" i da su proboji neizbežni ako se ne preduzmu odgovarajuće mere.
"Doći će do proboja. Pripremljenost pomaže da se incidenti brzo obuzdaju i spreči njihovo pretvaranje u velike operativne i finansijske krize," navode agencije.
Zašto je pitanje postalo hitno
Pitanje je dobilo dodatni značaj nakon izjave startapa Anthropic iz aprila, koji je objavio da njegovi modeli iz porodice Mythos imaju do sada neviđene sposobnosti za pronalaženje ranjivosti u softveru. Zbog toga je kompanija ove nedelje obustavila pristup Mythos 5 i ograničenu verziju Fable 5 kako bi postupila po nalogu američkih organa za nacionalnu bezbednost; takođe je zabranjen pristup za strane državljane za ove instance modela.
"Prilično je alarmantno," rekao je Chris Krebs, bivši direktor američke Agencije za sajber bezbednost i infrastrukturu (CISA). "Ovo saopštenje Five Eyes šalje jasnu poruku da organizacije moraju ozbiljno da pristupe riziku od zloupotrebe AI."
Preporučene mere
Five Eyes savetuje da organizacije hitno preduzmu niz koraka kako bi smanjile rizik i povećale otpornost:
- Integrisati AI alate u operacije sajber bezbednosti radi ranijeg otkrivanja i odgovora na napade.
- Ažurirati i ukloniti zastarele sisteme koji predstavljaju lako metu.
- Ograničiti pristup kritičnim resursima i uvesti strožije kontrole privilegija.
- Uspostaviti planove za incident response i redovne vežbe scenarija kompromitovanja.
- Razmotriti saradnju sa državnim organima i sektorom privatnih bezbednosnih firmi radi razmene informacija o pretnjama.
Saopštenje Five Eyes takođe služi kao poziv na brzu akciju za privatni sektor i vlade: nadogradnja bezbednosnih praksi i uvođenje novih procedura može pomoći da se smanji potencijalna šteta i spreči eskalacija u veće krizne situacije.
Kontekst regulative
Zanimljivo je i to što je ova intervencija usledila u trenutku kada je Bela kuća pokazivala tendenciju ka popuštanju određenih ograničenja nad AI tehnologijama, pa čak i pokušavala da ograniči mogućnost saveznih država da donose sopstvena pravila. Ovaj kontrast naglašava teškoću balansiranja inovacija, bezbednosti i nadzora.
U celini, preporuke Five Eyes su praktične i ostvarive: cilj je da organizacije postanu teži cilj, agilnije reaguju i otpornije na nadolazeći talas novih ranjivosti koje donosi brzo unapređivanje AI modela.
Pomozite nam da budemo bolji.
