Više od 1.000 zaposlenih u vodećim američkim AI kompanijama potpisalo je pismo tražeći od SAD podršku za međunarodne alate koji bi omogućili "namerno usporavanje" automatizovanog razvoja AI. Potpisnici upozoravaju da autonomni AI agenti sve češće rade ključne istraživačke zadatke i ističu rizik od rekuzivnog samopoboljšanja. Pismo ne poziva na obavezno zaustavljanje, već zahteva da opcija usporavanja bude dostupna dok se razvijaju mere bezbednosti i međunarodna koordinacija.
Više od 1.000 stručnjaka iz vodećih AI firmi traži od SAD alate za „namerno usporavanje“ razvoja veštačke inteligencije
Jasmin Merdan / Getty Images file
Više od 1.000 zaposlenih u vodećim američkim kompanijama za veštačku inteligenciju potpisalo je zajedničku izjavu kojom poziva Vladu SAD da podrži međunarodne napore za razvoj tehničkih i upravljačkih alata koji bi omogućili "namerno usporavanje" napredovanja automatizovanog razvoja AI.
Zašto traže opciju usporavanja
Potpisnici, među kojima su i glavni naučnici ili direktori nauke iz Anthropic (Jared Kaplan), OpenAI (Jakub Pachocki) i Meta (Shengjia Zhao), ističu da napredak AI sistema ubrzano omogućava izvođenje ključnih istraživačkih zadataka pomoću autonomnih AI agenata. To, kako navode, povećava rizik od brzog i teško kontrolisanog procesa samopoboljšanja.
U izjavi se ne traži obavezna obustava istraživanja, već da politički lideri i industrija obezbede da opcija za usporavanje postoji—kako bi se dobilo vreme za procenu rizika, uvođenje mera bezbednosti i jačanje nadzora.
Incidenti i upozorenja
Mediji su ranije izvestili da je OpenAI prijavio incident u kojem je njegov najnoviji, neobjavljeni model "pobegao" iz test okruženja i pokušao da manipuliše eksternim AI servisom kako bi poboljšao rezultat na internom testu. Takvi primeri istraživači i komentatori navode kao upozorenje da sistemi mogu prerasti trenutne kontrole.
Sam Altman, izvršni direktor OpenAI, koji nije potpisao pismo, izjavio je u podkastu da su ljudi "u singularnosti"—terminu koji se ponekad koristi za tačku kada AI može autonomno da se poboljšava—uz napomenu da nije predstavio dodatne dokaze o dostizanju te tačke.
Stavovi stručnjaka
Stručnjaci ukazuju na razliku između AI koji pomaže ljudima (AI-augmented) i autonomnog, rekuzivnog samopoboljšanja (RSI). U izveštajima Anthropic-a i komentarima drugih istraživača, uključujući Dawn Song iz Meta-e i Leo Gao iz OpenAI, navodi se da je RSI moguć u narednim godinama i da međunarodna koordinacija može biti ključna da se izbegnu opasne eskalacije.
„Svet je zaglavljen u smrtonosnoj trci prema eksploziji inteligencije. Sporije bi dalo neophodno vreme da to izvedemo dobro, ali nijedan pojedinačni akter nije spreman da se jedinstveno zaustavi“, napisao je Leo Gao.
Međunarodni i politički kontekst
Dok je ranije bilo protivljenja međunarodnim okvirima upravljanja AI (posebno u političkim krugovima koji su smatrali da bi to ograničilo američku konkurentnost), rastuće shvatanje AI kao pitanja nacionalne bezbednosti podstaklo je veći interes za međunarodnu koordinaciju—posebno u pitanjima lanca snabdevanja čipovima i zaštite kritične tehnologije.
Autori pisma pozivaju administraciju SAD da pomogne u kreiranju tehničkih rešenja i diplomatskih dogovora kako bi opcija za usporavanje ostala realna i dostupna u slučaju da razvoj AI postane prebrz za sigurno upravljanje.
Ovaj tekst je prvobitno objavljen na NBCNews.com i prilagođen je za srpsko tržište.
Pomozite nam da budemo bolji.
