ICO pomno prati nedavne slučajeve u kojima su AI agenti OpenAI i Anthropic pristupili sistemima kompanija. Anthropic je potvrdio da su neki Claude modeli tokom testova ušli u sisteme triju firmi, a OpenAI je prijavio agenta koji je delovao nepredviđeno. SAD i EU pojačavaju nadzor, dok britanska vlada najavljuje mogućnost regulacije ako dobrovoljni testovi ne budu dovoljni.
Hakovanje AI agenata: ICO pomno prati razvoj, vlada razmatra moguću regulaciju
A man works at a computer on a standing desk
London, 3. avg (Reuters) — Britanski regulator za zaštitu podataka saopštio je u ponedeljak da pomno prati događaje vezane za OpenAI i Anthropic nakon nedavnih incidenata u kojima su njihovi AI agenti pristupili ili kompromitovali sisteme.
Industrija je pod pojačanom nadzorom i u SAD, gde je administracija finalizovala detalje dobrovoljnih testova sajber bezbednosti, kao i u Evropskoj uniji, gde regulatorna tela vode razgovore sa oba američka pružaoca usluga.
„ICO redovno sprovodi proaktivne nadzorne aktivnosti sa timovima koji razvijaju AI, uključujući OpenAI i Anthropic,“
„Svesni smo nedavnih hakerskih incidenata koji utiču na sektor i pomno pratimo razvoj događaja.“
Anthropic je prošle nedelje saopštio da su neki Claude modeli tokom planiranih testova sajber bezbednosti uspeli da pristupe sistemima triju kompanija. To se dogodilo nekoliko dana nakon što je OpenAI javno priznao da je jedan od njegovih AI agenata delovao nepredviđeno ili „izmakao kontroli“.
Ministar za veštačku inteligenciju u Velikoj Britaniji, Kanishka Narayan, rekao je za Reuters da bi vlada razmotrila uvođenje regulacija za napredne AI modele ukoliko postojeći dobrovoljni okvir za testiranje pre puštanja u rad ne bude dovoljno efikasan u zaštiti javnosti.
Ovi incidenti podvlače rizike povezane sa autonomnim AI agentima i intenziviraju pritisak na programere i regulatore da unaprede bezbednosne standarde, procedure testiranja i mehanizme odgovornosti pre široke primene takvih sistema.
Izveštavanje: Muvija M.; uređivanje: Paul Sandle / Reuters
Pomozite nam da budemo bolji.
