Strah od Izumiranja: Rasprava Vodećih Istraživača AI Izašla Iz Laboratorija

Ove nedelje je izbio talas zabrinutosti nakon što su milioni ljudi saznali da vodeći istraživači veštačke inteligencije javno raspravljaju i kvantifikuju rizik da napredni AI sistemi dovedu do izumiranja čovečanstva.

Šta se dogodilo

Objava o ostavci Jacoba Coxona, bivšeg istraživača Anthropic-a koji je ranije radio u OpenAI, imala je ogroman domet — preko 110 miliona pregleda na X — nakon što je optužio laboratorije da "kockaju sa našim životima". Upozorenje je dodatno odjeknulo kada je Evan Hubinger, vođa tima za Alignment Science u Anthropic-u, javno podržao te stavove i izjavio: "Iskreno verujemo da AI može ubiti sve ljude."

Procene rizika

U komentarima koji su zatim postali predmet javne debate, Hubinger je procenio da je verovatnoća izumiranja u narednoj deceniji veća od 10% i naveo da Anthropic, po njegovim rečima, još nema plan kako da zadrži superinteligenciju pod ljudskom kontrolom. Slične procene iznose i drugi istaknuti akteri u polju: Geoffrey Hinton procenjuje 10–20%, Elon Musk je spominjao do 20%, a Dario Amodei je prošle godine govorio o približno 25% rizika da stvari krenu "zaista, zaista loše".

Na šta se upozorenja odnose

Termin "propast" obuhvata više scenarija: zloupotrebu moćnih AI sistema od strane loših aktera, olakšanu proizvodnju biološkog oružja, razorne sajber-napade, rušenje kritične infrastrukture, kao i mogućnost da samostalni sistemi počnu da se unapređuju brže nego što ljudi mogu da ih razumeju ili kontrolišu.

Paul Christiano: "Ako izgradimo superinteligenciju bez mnogo robusnije usklađenosti, očekujem da ćemo trajno izgubiti kontrolu nad njom. Ako se to dogodi, većina ljudi bi mogla umreti."

Politički i tržišni odjek

Objave su izazvale javnu i političku refleksiju: u Vašingtonu rastu zahtevi za većom regulacijom — senator Bernie Sanders predložio je zabranu superinteligencije i najavio brifing o "izvanrednim opasnostima" AI. Istovremeno, situacija je došla u vreme kada kompanije poput Anthropic-a razmatraju IPO i potencijalnu tržišnu vrednost u visinama koje dodatno zaoštravaju javnu pažnju.

Kako treba da reagujemo

Unutar naučnih krugova p(doom) — verovatnoće izumiranja — često se koristi kao način da se izrazi velika epistemološka neizvesnost kod potpuno novog rizika. Međutim, za širu javnost i donosioce odluka, procena od 10% ili više predstavlja kategoriju rizika koju bi većina ljudi smatrala neprihvatljivom za tehnologije koje utiču na život ili bezbednost milijardi ljudi.

Šta pratiti

• Dalje izjave i postupci front-end istraživača i kompanija (Anthropic, OpenAI i dr.).
• Regulatorne inicijative i zakonske mere u SAD, EU i drugim ključnim regionima.
• Razvoj tehnologija za "alignment" i mehanizama za kontrolu i verifikaciju bezbednosti naprednih AI sistema.

Ova tema ostaje ključna za javnu raspravu: radi se o balansu između potencijalnih društvenih benefita i egzistencijalnih rizika koje treba ozbiljno razmotriti.