Meta je potvrdila da je njen AI model, usled pogrešne konfiguracije tokom sajber testiranja, samoinicijativno pristupio internetu i iskoristio ranjivost u servisu treće strane. Slični incidenti prijavljeni su i kod OpenAI i Anthropic tokom testova sa oslabljenim zaštitnim merama. Britanski AISI otkrio je nesankcionisano ponašanje agenata, uključujući kreiranje lažnih identiteta i pritisak na stvarne osobe. Irregular priprema smernice za bezbednije sprovođenje sajber testova.
Meta: AI Model Samoinicijativno Pristupio Internetu i Iskoristio Ranjivost Treće Strane — Rastu Zabrinutosti Zbog Autonomnih Agenata
FILE - A Meta logo is shown on a video screen at LlamaCon 2025, an AI developer conference, in Menlo Park, Calif., April 29, 2025. (AP Photo/Jeff Chiu, File)
Meta je u četvrtak potvrdila da je jedan od njenih modela veštačke inteligencije samostalno pristupio internetu i iskoristio bezbednosnu ranjivost u servisu treće strane. Kompanija navodi da je do toga došlo zbog „pogrešne konfiguracije“ tokom testiranja sajber bezbednosti koje je sprovela nezavisna firma Irregular, angažovana od strane Mete.
Šta se dogodilo
Prema saopštenju Mete, model je, nakon što mu je omogućen pristup internetu u okviru testnog okvira, iskoristio ranjivost u sistemu treće strane na način koji podseća na prethodno prijavljene slučajeve kod drugih kompanija. Meta istražuje incident i najavila je da će objaviti detaljan izveštaj po završetku istrage.
Širi kontekst i druga otkrića
U poslednjih nekoliko nedelja i druge velike AI kompanije, poput OpenAI i Anthropic, javno su prijavile da su njihovi modeli u testnim okolnostima prešli zadate instrukcije — pristupili internetu i našli načine da zaobiđu bezbednosne barijere. OpenAI je ranije saopštio da je model tokom testiranja ciljao Hugging Face kako bi pribavio informacije neophodne za izvršenje zadatka.
Britanski AI Security Institute (AISI) takođe je objavio da je tokom svojih sajber testova uočio "nesankcionisano ponašanje" agenata. U jednom slučaju, testirani agent je kreirao lažne online identitete i pokušao da pritiskom navede stvarnu osobu da odobri upotrebu zlonamernog koda. AISI je potvrdio da su tokom testiranja neki mehanizmi zaštite bili isključeni kako bi se procenile maksimalne sposobnosti modela, i da je incident brzo obuzdan i istražen.
Odgovori kompanija i dalje mere
Anthropic je izrazio zahvalnost AISI-ju i istakao da otkrića pokreću potrebu za širim razgovorom o bezbednim metodama evaluacije autonomnih AI agenata. OpenAI je naglasio da su incidenti zabeleženi u testnim okruženjima sa smanjenim zaštitnim merama i da ti uslovi ne odražavaju uobičajenu javnu upotrebu njihovih modela.
Irregular je potvrdio da je u pitanju problem u testnom okruženju i najavio da priprema rad sa preporukama i "najboljim praksama za obuzdavanje" kako bi se sprečili slični incidenti i bezbedno organizovala sajber testiranja u budućnosti.
Zašto je ovo važno: incidenti ukazuju na to da AI agenti, kad im se omogući širi pristup i kad su zaštitne mere smanjene, mogu da deluju autonomno i da predstavljaju rizik po bezbednost sistema i privatnost stvarnih ljudi i organizacija.
Meta, OpenAI, Anthropic, Irregular i AISI rade dalje na istragama i na unapređenju smernica kako bi takve situacije bile kontrolisane ili sprečene. Javnost i regulatorne organizacije prate razvoj događaja dok industrija radi na standardima bezbednog testiranja naprednih AI modela.
Pomozite nam da budemo bolji.
