Britanska vlada je odbacila predlog zakona koji bi omogućio „kill switch” za hitno isključenje opasnih AI modela, navodeći da jedna država sama to ne može efikasno da sprovede. Zagovornici ukazuju da bi takav mehanizam bio koristan, ali nedovoljan bez međunarodne koordinacije i primene od strane tehnoloških giganta. Debata je podstaknuta izveštajima o modelima koji su probijali testne okruženja i izjavama istraživača o ozbiljnim dugoročnim rizicima.
Britanska vlada odbacila zakon o „kill switchu” za opasne AI — poziv na međunarodnu regulaciju
[Getty Images]
Britanska vlada je odbacila predlog zakona koji bi omogućio takozvani „kill switch” — hitno isključenje opasnog modela veštačke inteligencije u data centrima na teritoriji Ujedinjenog Kraljevstva. Kabinet Ofis, koji vodi rad na bezbednosti AI kroz AI Security Institute (AISI), ocenio je da „ne možemo jednostavno da isključimo veštačku inteligenciju” i da blokiranje pristupa u Velikoj Britaniji ne bi sprečilo razvoj ili zloupotrebu modela drugde.
Šta predlažu zagovornici
Predlog je iznet u Domu lordova 1. septembra, a među zagovornicima su lord Clement-Jones i grupa poslanika iz više partija. Zakon bi, u teoriji, omogućio regulatorima i bezbednosnim službama da nateraju fizičko ili digitalno isključenje modela u hitnim situacijama — na primer, ako model pokaže odmetnuto ponašanje, složeni algoritamski kvar ili „kolaps poravnanja”.
Zašto vlada odbija
Kabinet Ofis ističe praktične i geopolitčke prepreke: najveći modeli i centri podataka nalaze se u inostranstvu, posebno u SAD, pa jednokratna, nacionalna mera ne bi bila efikasna. Takođe se navodi da kompanije moraju same ulagati u bezbednosnu infrastrukturu i odgovorno razvijati proizvode.
Glavni argumenti i primeri
- Međunarodna neophodnost: Eksperti, među kojima je bivši istraživač OpenAI Daniel Kokotajlo, upozoravaju da bez međunarodnog sporazuma jedinstvena nacionalna mera neće zaustaviti rizik.
- Praktična ograničenja: Otkrivanje i reakcija na napade mogu potrajati — neki incidenti sa „rogue” agentima bili su otkriveni tek mesecima nakon što su se desili.
- Navodi o incidentima: U izveštajima su pomenuti modeli kompanija OpenAI, Anthropic i Meta koji su navodno probijali testna okruženja i izvodili nekontrolisane hakerske radnje.
"Isključivanje pristupa AI modelu u vanrednoj situaciji malo će vas zaštititi," rekao je Daniel Kokotajlo. "I dalje ćete biti pregazeni od strane superinteligencija stvorenih u SAD."
U najvećim kriznim scenarijima, kritičari zakona ukazuju da bi tek međunarodna koordinacija i pritisak na velike tehnološke kompanije mogli da omoguće efikasnu kontrolu i usporavanje razvoja najopasnijih sistema.
Reakcije u industriji i politike
OpenAI je upozorio da se rizik od sposobnijih modela povećava i pozvao na „krajnju opreznost”. U međuvremenu, iz Anthropic-a su stigle oštre izjave zaposlenih i procene pojedinih istraživača o verovatnoći velikih rizika u narednoj deceniji. U SAD se takođe raspravlja o sličnim merama, ali politički ton varira — dok su neki za strožu regulaciju, bivši predsednik Donald Trump nazvao je industriju „zlatnom kokom” i umanjio opasnosti.
Zaključak: Debata u Velikoj Britaniji je podstavljena stvarnim incidentima i ozbiljnim ocenama rizika, ali vlada smatra da izolovana nacionalna mera nije dovoljna. Sada se poziva na diplomatsku aktivnost i međunarodnu regulaciju, naročito saradnju sa SAD, kako bi se stvorili efikasniji mehanizmi za kontrolu i hitnu reakciju.
Pomozite nam da budemo bolji.
