Anthropic je predložio privremeni globalni prekid razvoja najmoćnijih AI modela zbog rizika gubitka ljudske kontrole i mogućeg rekurzivnog samopoboljšanja. Kompanija traži verifikabilnu, istovremenu koordinaciju velikih igrača, posebno SAD i Kine, i planira dijalog sa vladama i industrijom. Bela kuća je priznala snagу modela Mythos, dok je Trump potpisao uredbu za 30-dnevni pregled najmoćnijih modela.
Anthropic Traži Privremeni Globalni Prekid Razvoja Najmoćnijih AI Modela Zbog Rizika Gubitka Kontrole
Artificial intelligence company Anthropic suggests a global pause on building the most powerful AI systems as the latest models are beginning to show signs they could escape human control (SEBASTIEN BOZON)(SEBASTIEN BOZON/AFP/AFP)
Kompanija za veštačku inteligenciju Anthropic iz San Franciska u četvrtak je javno predložila privremeni, globalni prekid razvoja najmoćnijih AI modela, upozoravajući da najnoviji sistemi pokazuju znakove koji bi mogli dovesti do gubitka ljudske kontrole.
Anthropic, poznat po porodici modela Claude, u izveštaju navodi da bi usporavanje razvoja graničnih AI sistema "verovatno bilo dobro" za društvo, ali upozorava da bi jedinstvena odluka jedne firme bila besmislena ako konkurencija nastavi raditi bez ograničenja.
"Smatramo da bi za svet bilo korisno imati opciju usporavanja ili privremenog prekida razvoja graničnih AI sistema kako bi društvene strukture i istraživanja usklađivanja mogla da sustignu napredak tehnologije," navodi se u izveštaju.
Kompanija traži verifikabilna pravila i istovremenu koordinaciju više velikih igrača, pre svega SAD i Kine, jer bez globalnog mehanizma koordinacije firme i države ostaju izloženi konkurentskim i geopolitičkim pritiscima.
Anthropic je suočen sa kritikom unutar industrije i od pojedinih zvaničnika u Vašingtonu, koji tvrde da kompanija preuveličava rizike i da predlog može poslužiti i kao način usporavanja rivala pod izgovorom bezbednosti. Ipak, Bela kuća je priznala potencijal modela Mythos — modela koji nije dostupan javnosti zbog svojih sposobnosti u oblasti sajber bezbednosti i koji je primenjen samo kod ograničenog broja proverenih organizacija.
Predlog će verovatno naići na otpor u Vašingtonu i Silicijumskoj dolini, gde se često ističe da svako usporavanje može dati stratešku prednost Kini u globalnoj tehnološkoj trci. S druge strane, predsednik SAD Donald Trump izjavio je da je tokom posete Pekingu razgovarao o mogućoj saradnji sa Kinom u vezi bezbednosti AI, a takođe je potpisao izvršnu uredbu koja daje vladinim organima 30 dana za preliminarnu proveru najmoćnijih američkih AI modela pre njihove objave.
Zašto je koordinacija teška
Anthropic upoređuje izazov sa kontrolom nuklearnog naoružanja, ali naglašava da će kontrola razvoja AI verovatno biti još teža: proces treniranja modela može se lakše skrivati nego fizička infrastruktura, pa je i iskušenje da se rad nastavi u tajnosti veliko.
Kompanija planira da u narednim mesecima okupi zvaničnike, naučnike, organizacije za zastupanje interesa i konkurentske AI firme kako bi razmotrili kako bi takav verificiran sistem mogao da funkcioniše.
Ubrzanje razvoja i rizik rekurzivnog samopoboljšanja
Prema internim podacima Anthropic-a, napredak u razvoju AI već ubrzava sam razvoj novih modela, stvarajući povratnu petlju koja bi mogla dovesti do takozvanog "rekurzivnog samopoboljšanja" — scenarija u kojem AI sistemi sve više uče sami sebe da postanu sposobniji bez značajne ljudske intervencije.
Izveštaj naglašava: "Još nismo tamo, i rekurzivno samopoboljšanje nije neizbežno," ali upozorava da bi takav razvoj događaja mogao nastupiti pre nego što većina vlada i institucija bude spremna. Kompanija zaključuje da dostupni dokazi ukazuju da se ljudska uloga u svakom koraku procesa razvoja AI postepeno smanjuje.
Debata o predlogu Anthropic-a ilustruje rastući raskorak između tehnoloških rizika koje ističu neki istraživači i zabrinutih aktera, i političkih i ekonomskih pritisaka koji podstiču brži razvoj i primenu AI tehnologija.
Pomozite nam da budemo bolji.
