UN/ITU Pokreću Globalnu Inicijativu: Radna Grupa Za Poverenje U Autonomne AI Agente

Ženeva, 9. jul — Agencija Ujedinjenih nacija za digitalne tehnologije, Međunarodna unija za telekomunikacije (ITU), najavila je novu globalnu inicijativu čiji je cilj jačanje poverenja u autonomne agente veštačke inteligencije.

Šta su AI agenti i koji su rizici?

AI agenti su nova generacija sistema veštačke inteligencije koji deluju samostalno u ime korisnika, obavljajući zadatke od zakazivanja i kupovine do složenih poslovnih i industrijskih procesa. Iako mogu znatno povećati produktivnost, predstavljaju i specifične rizike — uključujući mogućnost lažnog predstavljanja kao ljudi, donošenje neovlašćenih odluka i autonomne akcije u osetljivim sektorima.

Cilj i mandat radne grupe

Na Samitu AI for Good u Ženevi, ITU je objavio formiranje radne grupe (Focus Group) koja će razvijati međunarodne okvire i smernice kako bi se osiguralo da AI agenti ostanu prepoznatljivi, pouzdani i pod stvarnom, smislenom kontrolom ljudi, posebno u oblastima kao što su finansijske transakcije i kritična infrastruktura.

„AI agenti će uskoro pregovarati, zaključivati transakcije i donositi odluke u naše ime,“ rekla je suosnivačica radne grupe Debora Comparin. „Potrebne su nam zajedničke međunarodne osnove koje će jasno utvrditi ko su agenti i kada im se može verovati.“

Radnu grupu će činiti tehnički, politički i pravni stručnjaci iz različitih regiona i sektora. Planirano je da grupa održi prvi sastanak u Parizu u novembru, a drugi sastanak u Ženevi u januaru, gde će početi rad na praktičnim smernicama, standardima prepoznatljivosti i mehanizmima nadzora i odgovornosti.

Zašto je ovo važno za javnost i privredu?

Uvođenje jasnih međunarodnih okvira pomoći će smanjenju rizika od zloupotrebe AI agenata i povećati pravnu sigurnost za korisnike, kompanije i regulatore. To je posebno važno za bankarski sektor, energetiku, transport i druge grane gde greška ili zlonamerna aktivnost mogu imati velike posledice.

Izveštavanje: Olivia Le Poidevin