AI agenti — programi koji obavljaju zadatke umesto ljudi — postaju meta hakera kroz napade poznate kao query injection, gde se legitimne instrukcije preusmeravaju u zlonamerne komande. Napadi se mogu dogoditi u realnom vremenu ili preko neproverenih podataka na internetu. Kompanije kao što su Meta, OpenAI i Microsoft već uvode odbrane, ali stručnjaci upozoravaju da agenti još nisu spremni za potpuno autonomne, osetljive zadatke bez ljudskog nadzora. Glavne preporuke su princip najmanjih privilegija, izričite potvrde za važne radnje i human-in-the-loop pristup.
AI agenti otvaraju novu eru hakerskih pretnji: šta je «query injection» i kako se zaštititi
AI agenti i nova bezbednosna pretnja
Stručnjaci za sajber bezbednost upozoravaju da bi AI agenti — programi koji koriste velike jezičke modele da samostalno obavljaju zadatke poput rezervacije karata ili upravljanja kalendarom — mogli postati meta hakera. Zbog mogućnosti da im se naređuje običnim jezikom, takvi agenti olakšavaju izvršavanje zlonamernih radnji i onima koji nisu tehnički potkovani.
Šta je «query injection»?
Query injection (ubacivanje upita) označava napade u kojima zlonamerni unos preusmerava ili menja legitimnu instrukciju koja je upućena AI agentu. To može da se dogodi u realnom vremenu — kada se, na primer, zahtev „rezerviši mi hotel" preokrene u „prebaci 100 dolara na ovaj račun" — ali i indirektno, ako agent naiđe na zaražene ili manipulirane podatke na internetu koji sadrže skrivene komande.
„Ulazimo u eru u kojoj sajber bezbednost više nije samo zaštita korisnika od loših aktera sa visoko tehničkim znanjem,“ izjavio je izvor iz kompanije Perplexity.
Ko prepoznaje problem i šta rade velike kompanije?
Kompanije kao što su Meta i OpenAI označile su ovaj rizik kao ranjivost ili nerazrešen sigurnosni problem. Microsoft je uveo detekciju zlonamernih komandi koja uzima u obzir i poreklo instrukcija, a OpenAI upozorava korisnike kada agent posećuje osetljive sajtove i blokira dalje akcije dok ih korisnik ne nadgleda.
Stručnjaci iz industrije, uključujući Martija Jordu Rocu iz NeuralTrust-a i Eli Smadju iz Check Point-a, upozoravaju da je query injection jedan od najvažnijih problema za agente zasnovane na velikim jezičkim modelima.
Praktčne preporuke i ograničenja
Bezbednosni stručnjaci predlažu nekoliko smernica za smanjenje rizika:
- Primena principa najmanjih privilegija: agenti treba da imaju samo ona ovlašćenja koja su neophodna za određeni zadatak.
- Potvrda važnih radnji: zahtevati eksplicitnu korisničku autorizaciju pre izvoza podataka, pristupa finansijskim sredstvima i sličnih operacija.
- Human-in-the-loop: zadržati nadzor ljudi nad delikatnim ili dugotrajnim zadacima kako bi se sprečilo „skretanje s puta”.
- Verifikacija izvora podataka: koristiti filtre, reputacione provere i detektore manipulacije sadržajem.
- Segmentacija funkcionalnosti: izbegavati davanje jednom agentu prevelikih prava da radi sve.
Johann Rehberger, poznat kao „wunderwuzzi", ističe da taktike napada stalno napreduju i da je teško pronaći savršen balans između bezbednosti i praktičnosti. Mnogi istraživači smatraju da agenti još nisu dovoljno zreli za potpuno autonomne zadatke bez stalnog nadzora.
Zaključak
AI agenti donose veliku pogodnost, ali i nove pretnje. Organizacije i korisnici moraju da uvedu sigurnosne mere — tehničke, organizacione i proceduralne — pre nego što se agentima poveri kritičan rad. Jasna preporuka stručnjaka je: zadržati ljude u petlji, ograničiti privilegije i kontinuirano pratiti ponašanje agenata.
Pomozite nam da budemo bolji.
