Jade Leung, tehnička direktorka AISI i premijerova savetnica, vodi nezavisna testiranja naprednih AI modela, uključujući Anthropic‑ov Claude Mythos. AISI je otkrio ranjivosti u svakom testiranom sistemu, dok Leung upozorava da agentni AI brzo stiče autonomiju i da istraživanja i smernice zaostaju. Institut sprovodi praktične mere i razmenjuje informacije sa saveznicima, ali istovremeno poziva na veću transparentnost i međunarodnu saradnju.
Jade Leung (32) i AISI: Kako Britanija Priprema Odbranu Od Naprednih AI Napada
Jade Leung has discovered the issue of AI is ‘top of mind’ in Whitehall - Andrew Crowley
Jade Leung, 32-godišnja tehnička direktorka AI Security Institute‑a (AISI) i savetnica premijera, vodi ključne napore Velike Britanije u testiranju i ublažavanju rizika od naprednih sistema veštačke inteligencije. AISI, osnovan 2023. na inicijativu premijera Rishi Sunaka, jedina je organizacija kojoj je Anthropic dozvolio nezavisno testiranje svog modela Claude Mythos — čije je navodno „bekstvo“ iz kontrolisanog okruženja dodatno potvrdilo ozbiljnost pretnje.
Šta radi AISI i zašto je to važno
AISI zapošljava oko 250 stručnjaka, uglavnom u svojim 20‑im i 30‑im godinama, i radi u tesnoj saradnji sa britanskim bezbednosnim službama. Među timovima je i tzv. red team čiji je zadatak da deluje kao napadač: pronalazi ranjivosti modela i testira kako bi napadi mogli izgledati u praksi — od instrukcija za stvaranje bioloških agensa do izvedbe velikih sajber‑napada. Kako Leung navodi, u svakom testiranom sistemu su pronađene ranjivosti.
Leung believes AI will be ‘the most consequential technology of our time’ - Andrew Crowley
Ključni rizici: agentni AI i autonomija
Posebna zabrinutost leži u razvoju agentnih AI sistema — modela koji mogu samostalno preuzimati akcije uz minimalan ili bez ljudskog nadzora. Leung upozorava da se autonomija takvih sistema brzo povećava i navodi da se sposobnost autonomnog delovanja modela udvostručava otprilike na svaka dva meseca. „Do kraja ovog parlamentarnog mandata mogli bismo videti sisteme koji deluju autonomno i do dva meseca bez nadzora“, kaže ona.
Nedostaci i ograničenja nadzora
Iako AISI dobija pristup nekim modelima radi testiranja, nema potpun uvid „ispod haube“ — spoljne institucije često ne znaju koje interne smernice modeli prate. To stvara problem: institut može detektovati rizike i preporučiti mitigacije, ali ne poseduje uvek moć da samostalno primeni takve promene u komercijalnim modelima.
Tristan Roberts killed his mother with a hammer after consulting an AI chatbot for advice on murdering her - North Wales Police
„Mi možemo da otkrijemo opasnost, da predložimo rešenja i da delimo informacije s partnerima — ali globalna koordinacija i transparentnost su ključni da bismo bili zaštićeni.“
Društvene posledice
Leung i AISI takođe ukazuju na šire posledice AI tehnologije: transformaciju tržišta rada, promene u međuljudskim odnosima i porast emocionalne upotrebe AI. Prema istraživanju instituta, trećina Britanaca je koristila AI u emotivne svrhe u poslednjih godinu dana, što otvara pitanja o psihološkim i društvenim efektima.
Zaključak i poziv na akciju
AISI radi na praktičnim merama — od unapređenja bezbednosnih barijera unutar modela do razmene informacija sa saveznicima — ali Leung upozorava da tempo istraživanja i normativnih smernica zaostaje za brzinom tehnološkog razvoja. Kako bi se smanjili rizici, potrebna je većja transparentnost kompanija, snažnija međunarodna saradnja i brže delovanje javnog sektora.
Ovaj tekst pruža pregled glavnih nalaza AISI‑ja i Leunginog stava o tome kako se Velika Britanija priprema za izazove koje donosi napredna veštačka inteligencija.
Pomozite nam da budemo bolji.
