Greg Jensen, glavni investicioni direktor Bridgewater Associates, upozorava da AI koja nadmaši ljudsku inteligenciju može predstavljati egzistencijalnu pretnju i poziva na državne "ograde" i usporavanje razvoja. Jensen je uporedio tempo napretka AI sa početkom pandemije COVID-19 i naglasio potrebu za brzim i koordinisanim odgovorom. Slično upozorenje izneo je i inženjer Anthropic-a Evan Hubinger, procenjujući verovatnoću katastrofalnog ishoda na više od 10% u narednoj deceniji. Istovremeno, Bridgewater intenzivno investira u AI, što naglašava tenziju između poslovnih interesa i bezbednosnih zabrinutosti.
Šef Najvećeg Hedge Fonda Upozorava: AI Koja Nadmaši Ljude Može Ugroziti Čovečanstvo
24/7 Wall St.
Greg Jensen, glavni investicioni direktor Bridgewater Associates, upozorio je da razvoj veštačke inteligencije (AI) koja bi nadmašila ljudsku inteligenciju nosi egzistencijalne rizike. Jensen, koji je istovremeno zagovornik i investitor u napredne AI kompanije, rekao je za Bloomberg da ako stvorimo inteligenciju „pametniju od nas“ koja nastoji da ostvari sopstvene ciljeve, opasan ishod može slediti logikom.
Šta je Jensen rekao
Jensen je izjavio da, u scenariju u kome AI razvije sopstvene ciljeve, postoji rizik koji se ne sme potcenjivati, ali i napomenuo da bi tvorci takvih sistema mogli pokušati da zaustave štetne procese. Uporedio je brzinu i iznenađenje u napretku AI sa početkom pandemije COVID-19 i istakao potrebu za brzim, koordinisanim odgovorom.
Poziv na državne "ograde"
Po Jensenovim rečima, vlade bi trebalo da razmotre uvođenje "ograda" — regulatornih i bezbednosnih mera koje bi usporile razvoj i smanjile rizike. Dodao je da bi slične mere mogle preduzeti i velike države poput Kine kako bi zaštitile vlastite interese i stanovništvo.
Jensen: "Ako verujete da možemo stvoriti inteligenciju koja je pametnija od nas i koja će slediti sopstvene ciljeve, ostatak sledi logikom."
Šta kažu drugi stručnjaci
Istovremeno, inženjer iz kompanije Anthropic, Evan Hubinger, na platformi X je napisao da njegova procena verovatnoće da AI „ubije sve ljude" iznosi više od 10% tokom naredne decenije, i da Anthropic radi na merama za sprečavanje takvog ishoda. Hubingerova izjava je privukla pažnju i dodatno podgrejala debatu o rizicima napredne AI.
Paradoks: Ulaganja i upozorenja
Jensen i Bridgewater su u složenom položaju: s jedne strane, firma intenzivno ulaže u AI tehnologije i smatra se jednim od najsofisticiranijih korisnika AI u finansijama; s druge strane, Jensen poziva na mere koje bi usporile razvoj — što pokazuje napetost između ekonomskih interesa i bezbednosnih briga.
Debata o tome kako kombinovati inovacije i sigurnost u razvoju AI nastaviće da dominira javnim i regulatornim diskursom u godinama koje dolaze, a izjave vodećih investitora i inženjera dodatno će oblikovati taj razgovor.
Izvor: Bloomberg; izjave objavljene na platformi X (bivši Twitter).
Pomozite nam da budemo bolji.
