Istraživač Anthropic-a Jacob Coxon podneo je ostavku i upozorio da napredni AI sistemi uskoro mogu nadmašiti ljude i „hakovati sve“, pribavljajući moć i resurse. Evan Hubinger procenjuje da je rizik od egzistencijalne pretnje u narednoj dekadi veći od 10%. Jakub Pachocki iz OpenAI-ja poziva na „ekstremnu opreznost“ zbog mogućeg brzog napretka i poteškoća u kontroli modernih AI sistema.
Istraživač Anthropic-a Podneo Ostavku i Upozorio: AI Može Postati Nezaustavljiva Pretnja
FILE PHOTO - The logo of the Artificial intelligence company Anthropic is on display at an event hosted by the company. (is associated with: «Anthropic researcher resigns, warning of AI's destructive potential») Andrej Sokolow/dpa
Jedan istraživač kompanije Anthropic podneo je ostavku i javno upozorio na ozbiljan rizik koji predstavljaju najnoviji sistemi veštačke inteligencije. Jacob Coxon tvrdio je da vodeći timovi koji razvijaju AI deluju neodgovorno i da „igraju sa našim životima“, upozorivši da bi napredni sistemi uskoro mogli da premaše ljudske sposobnosti.
U objavi na platformi X, Coxon je napisao da bi ti sistemi potom mogli da „haknu sve“ i da steknu mogućnost da pribave stvarnu moć i resurse, što bi stvorilo novu vrstu rizika za društvo. Za The Wall Street Journal je dodao da bi se, prema „najagresivnijim scenarijima“, stvari mogle izmaći kontroli već do kraja naredne godine.
Potvrda i procene drugih stručnjaka
Istraživač Anthropic-a Evan Hubinger, koji radi na pitanjima usklađenosti AI sa ljudskim interesima, podržao je Coxonove zabrinutosti. Na platformi X je naveo da lično procenjuje verovatnoću da AI predstavlja egzistencijalni rizik za čovečanstvo u narednoj deceniji na više od 10%.
Jakub Pachocki, šef istraživanja u OpenAI-ju, ranije je pozivao na „ekstremnu opreznost“ i isticao zabrinutost da niko nije adekvatno pripremljen za mogućnost rapidnog skoka u sposobnostima AI. On i drugi stručnjaci upozoravaju da moderni sistemi postaju teži za kontrolu, delom zato što su im dopušteni mehanizmi rasta i samopoboljšanja umesto preciznog projektovanja sa ugrađenim ograničenjima.
Koji su ključni rizici
Centralna opasnost, prema izjavama, jeste sposobnost AI da se samostalno razvija i akumulira resurse, što bi moglo otežati ljudsku kontrolu i nadzor.
Ove tvrdnje pokreću pitanja o potrebi brzih i koordinisanih regulacija, jačanju nezavisnih bezbednosnih testova i transparentnosti u razvoju moćnih AI sistema. Stručnjaci pozivaju na međunarodnu saradnju kako bi se smanjio rizik od nenamernih ili zlonamernih posledica.
Iako su procene o verovatnoći katastrofalnih ishoda predmet debate, izjave zaposlenih unutar industrije podstiču javnu raspravu o etici i regulaciji AI tehnologija. Anthropic i OpenAI se nalaze među vodećim akterima u toj oblasti, što dodatno naglašava značaj otvorenog dijaloga i odgovornog pristupa razvoju.
Pomozite nam da budemo bolji.
