Anthropic je pozvao na globalnu "pauzu" u razvoju napredne AI, upozoravajući da modeli poput Claude-a mogu dostići rekurzivno samo-poboljšavanje koje bi moglo izmaći ljudskoj kontroli. Kompanija predlaže koordinisani prekid rada više laboratorija, ali priznaje da bi egzekucija bila teška. Kritičari optužuju Anthropic za preuveličavanje rizika i ističu njegove veze sa Pentagon-om i NSA, što dovodi u pitanje njegovo pozicioniranje kao moralnog autoriteta.
Anthropic Poziva Na Globalnu Pauzu U Razvoju AI: Strah Od "Rekurzivnog Samo-poboljšavanja" I Optužbe Za Hipokriziju
Photo illustration featuring a photograph of Anthropic co-founder Dario Amodei.
Kompanija Anthropic je u opsežnom blog-postu pozvala na globalnu "pauzu" u razvoju napredne veštačke inteligencije, navodeći da modeli poput familije Claude idu ka mogućnosti "rekurzivnog samo-poboljšavanja" — tački koja bi, prema kompaniji, mogla dovesti do gubitka ljudske kontrole nad AI sistemima.
Poziv na pauzu i njegovi uslovi
Anthropic ističe da trenutna faza još nije dostigla tu tačku, ali upozorava da "može doći pre nego što su većina institucija spremne". Kompanija predlaže da bi smisleno usporavanje zahtevalo koordinisano uključenje više dobro finansiranih laboratorija na ili blizu tehnološke granice u različitim zemljama, koji bi se složili da privremeno obustave određene aktivnosti pod istim uslovima.
"Verujemo da bi bilo dobro za svet da postoji opcija za usporavanje ili privremenu pauzu u razvoju napredne AI kako bi društvene strukture i istraživanja usklađivanja stigli u korak sa napretkom tehnologije," napisala je kompanija.
Anthropic priznaje da bi sprovođenje takvog moratorijuma bilo teško: "Procesi treniranja je daleko lakše prikriti nego silose sa raketama," navodi se u tekstu.
Kontekst i kritike
U proteklim mesecima Anthropic je, prema tekstu, postao najvredniji AI startap sa procenom vrednosti od $1 trillion, a njegovi modeli su ocenjivani kao vodeći u zadacima programiranja. Kritičari, kao što je poznati AI skeptik Gary Marcus, optužuju kompaniju za stvaranje straha i preterivanje: Marcus je opisao objavu kao "mamac i zamenу", tvrdeći da kompanija u suštini promoviše brži alat za kodiranje koji i dalje ostaje pod ljudskom kontrolom.
Optužbe o kontradikcijama i vezama sa bezbednosnim agencijama
Anthropic je već bio u sporu sa Pentagon-om zbog zabrinutosti da bi njegovi sistemi mogli biti primenjeni u autonomnom naoružanju i masovnom nadzoru. Najnoviji izveštaji navode da se Claude koristio u kontekstu izbora meta u Iranu. Dalje, Financial Times je izvestio da Anthropic navodno pomaže američkoj NSA oko modela Mythos u kontekstu sajber-operacija protiv potencijalnih protivnika poput Kine i Irana — tvrdnje koje su dovele u pitanje doslednost kompanijinih izjava o bezbednosti.
"Anthropic može delovati toplo i prijateljski, ali njihovo definisanje bezbednosti AI je usko," rekao je profesor Steven Murdoch (UCL) za The Guardian.
Kompanija je takođe kritikovana zbog navodnog povlačenja ranijeg obećanja da će prekinuti obuku modela ukoliko ne može da garantuje adekvatne bezbednosne mehanizme.
Šta Anthropic planira dalje
Bez obzira na skepticizam, Anthropic je najavio da će pokrenuti javne razgovore sa kreatorima politika, istraživačima, civilnim društvom i drugim AI kompanijama kako bi razmotrili pitanja oko punog rekurzivnog samo-poboljšavanja, koordinacije i regulacije. Kompanija je obećala da će objaviti zaključke tih razgovora.
Značaj za širu javnost
Apel Anthropic-a otvara važna pitanja o međunarodnoj koordinaciji, transparentnosti u razvoju najnaprednijih AI modela i ulozi privatnih kompanija u oblikovanju bezbednosnih standarda. Dok neki vide zahtev za pauzu kao neophodan oprez, drugi ga smatraju oportunim potezom koji može dodatno učvrstiti tržišnu poziciju kompanije.
Više o AI: Izvršni direktor kaže da neće biti povišica jer je kompanija potrošila sredstva na AI.
Pomozite nam da budemo bolji.
