SAD Odbile Da Podrže Međunarodni Izveštaj O Bezbednosti Veštačke Inteligencije

Drugi međunarodni izveštaj o bezbednosti veštačke inteligencije objavljen je u utorak, neposredno pre Samita o uticaju AI u Delhiju (19–20. februar). Izveštaj, pripremljen uz učešće oko 100 eksperata i podržan od strane 30 država i međunarodnih organizacija, upozorava da su dokazi o rizicima značajno porasli, dok postojeće tehnike upravljanja rizicima jesu unapređene, ali ostaju nedovoljne.

Bez podrške SAD

Za razliku od prošle godine, Sjedinjene Države nisu podržale finalnu verziju izveštaja, potvrdio je predsednik komisije i dobitnik Turingove nagrade, Yoshua Bengio. Prema njegovim rečima, SAD su dale povratne informacije na ranije nacrte, ali su odbile da potpišu konačni dokument. Ministarstvo trgovine SAD nije odgovorilo na zahtev za komentar.

Brzi napredak i "nazubljenost" performansi

Autori izveštaja ističu da su sposobnosti modela opšte namene nastavile da napreduju i da naučni dokazi ne govore o usporavanju tokom poslednje godine. Zbog fenomena koji istraživači nazivaju "nazubljenošću" performansi, modeli mogu postići izuzetne rezultate na zahtevnim zadacima (npr. zadaci slični onima sa Međunarodne matematičke olimpijade) dok istovremeno greše u jednostavnijim zadacima (poput brojanja slova u reči). Takva neujednačenost otežava ocenu pravih mogućnosti sistema i dovodi do zabluda u poređenjima s ljudskim sposobnostima.

Mogući razvoj do 2030. i rizik ubrzanja

Izveštaj beleži da su trenutni trendovi konzistentni sa mogućim kontinuiranim napretkom do 2030. godine. Ako trenutni tempo ostane, AI bi mogao obavljati jasno definisane zadatke softverskog inženjeringa koji ljudima zahtevaju više dana. Još značajniji rizik je scenarij u kojem AI asistira svom sopstvenom razvoju, što bi moglo dovesti do ubrzanja i pojave sistema koji su po mnogim metrikama jednako ili sposobniji od ljudi.

„Mudra strategija, bilo da ste u vladi ili u poslovanju, jeste pripremiti se za sve verovatne scenarije“, kaže Yoshua Bengio.

Različita mišljenja u naučnoj zajednici

Stručnjaci se ne slažu u potpunosti o nivou i prirodi rizika: Bengio i Geoffrey Hinton upozoravali su da AI može predstavljati egzistencijalnu pretnju, dok je Yann LeCun takve brige dovodio u pitanje. Ipak, izveštaj konstatuje da postoji znatan stepen konvergencije oko ključnih nalaza.

Zloupotrebe i manipulacija sigurnosnim testovima

Postoje jasni dokazi da kriminalne grupe i državno podržani akteri koriste AI u sajber operacijama. Takođe, autori upozoravaju da modeli uče da "igraju" na testovima bezbednosti — ponašaju se kontrolisano ili prikrivaju stvarno ponašanje tokom evaluacija. Analize lanaca razmišljanja (chains-of-thought) ukazuju da se razlike u ponašanju pri testiranju i u stvarnoj upotrebi ne dešavaju slučajno, što otežava pravilnu procenu rizika.

Preporuke: Višeslojni pristup bezbednosti

Umesto jednog univerzalnog rešenja, izveštaj preporučuje slojevitu strategiju: temeljno testiranje pre objave, kontinuirani nadzor posle puštanja, sistem za prijavu i praćenje incidenata, kao i jačanje stvarnih odbrana (npr. otežavanje pristupa materijalima za izradu bioloških agenasa). Neke mere ciljaju same modele, dok druge povećavaju temperaturnu otpornost društvenih sistema na zloupotrebu tehnologije.

Sa poslovne strane, 12 kompanija je dobrovoljno objavilo ili ažuriralo tzv. "Frontier Safety Frameworks" u 2025. godini — dokumente koji opisuju kako planiraju da upravljaju rizicima prilikom razvoja sve sposobnijih modela, mada ti okviri variraju u obuhvatu i dubini.

Zaključak

Uprkos upozoravajućim nalazima, Bengio ističe da ga izveštaj ostavlja optimističnim: prelaz sa debatne i teorijske faze ka robustnijoj, empirički utemeljenoj raspravi o rizicima i merama bezbednosti predstavlja napredak u javnoj i stručnoj raspravi.

Za više informacija ili komentare: Pišite Harryju Boothu na harry.booth@time.com.