Doomsday Clock je pomeren na 85 sekundi do ponoći, dok je Dario Amodei objavio esej od 19.000 reči upozoravajući na rizike moćnog AI. Bulletin of the Atomic Scientists daje nezavisna, istorijska upozorenja, ali nema izvršnu moć. Amodei govori iz pozicije sa stvarnom kontrolom ali i strukturnim sukobom interesa. Ključ je u izgradnji institucija koje kombinuju stručnost, odgovornost i nadzor.
Kome Verovati Kada Svi Najavljuju Kraj Sveta? Sat Sudnjeg Dana, Amodei i Problem Povjerenja
Nije svako od nas zainteresovan da vlada svetom, ali izgleda da danas mnogi žele da upozore — kao da se približava kraj. Dva nedavna događaja sumiraju ovu atmosferu: Doomsday Clock je pomeren na 85 sekundi do ponoći, a izvršni direktor kompanije Anthropic, Dario Amodei, objavio je opsežan esej od 19.000 reči u kojem upozorava na rizike moćnog AI.
Šta znači sat i zašto je važan
Doomsday Clock, simbol koji uređuje Bulletin of the Atomic Scientists, nastao je 1947. kao vizuelni pokazatelj koliko su stručnjaci zabrinuti zbog egzistencijalnih rizika. Ove godine kazaljke su pomaknute na 85 sekundi do ponoći — četiri sekunde bliže nego 2025. — uz poziv na pažnju zbog nuklearnih tenzija, klimatskih promena, rasta autokratije i drugih pretnji.
Amodei: Glas iznutra
Dario Amodei, nekadašnji istraživač i sada CEO Anthropic-a, piše iz pozicije osobe koja zaista učestvuje u oblikovanju tehnologije o kojoj upozorava. U eseju "The Adolescence of Technology" ističe da čovečanstvo dobija skoro nezamislivu moć i postavlja pitanje da li su naši društveni i politički sistemi zreli za nju. Njegova poruka je dalekosežna, ali istovremeno i paradoksalna: zalaže se za oprez, ali tvrdi i da je usporavanje razvoja tehnologije praktično neizvodljivo.
Nepomirljiva dilema: nezavisni proroci ili moćnici iznutra?
Postoji istorijski presedan: naučnici koji su napravili nuklearnu bombu (među kojima i J. Robert Oppenheimer) osnovali su Bulletin i govorili su javno iz moralne obaveze, ali su brzo izgubili izvršni uticaj nad oružjem koje su pomogli da nastane. Njihova snaga bila je u nepristrasnosti i stručnom autoritetu — ali ne i u moći da direktno menjaju događaje.
Suprotno tome, Amodei i drugi lideri industrije imaju stvarnu kontrolu nad razvojem AI: odluke kompanija utiču na tempo i način primene tehnologije. To daje njihovima upozorenjima neposrednu težinu, ali istovremeno nosi strukturni sukob interesa — svaki njihov apel za oprez ide uz tvrdnju da razvoj treba nastaviti, jer će inače neki drugi to uraditi.
„U AI postoji toliko novca za zaraditi — bukvalno bilioni dolara godišnje — da čak i najjednostavnije mere teško uspevaju da nadvladaju političku ekonomiju inherentnu AI-ju.“ — citat iz Amodeijevog eseja
Šta nam ovo govori?
Model Bulletina ima moralni integritet i istorijsku težinu, ali njegova moć delovanja je ograničena. Model ljudi kao Amodei — stručnjaka koji su istovremeno i nosioci moći — nudi direktan uticaj, ali je opterećen poslovnim i političkim interesima. Zato ključno pitanje nije samo koga slušamo, nego šta gradimo: institucije, pravila i mehanizme nadzora koji će smanjiti sukobe interesa i omogućiti bezbednu primenu tehnologija koje mogu promeniti civilizaciju.
Sat i esej su upozorenja različitih vrsta: jedan dolazi iz nezavisnog, istorijski autoritativnog izvora; drugi iz centra industrijske moći. Oba su važna — ali nijedan ne može sam rešiti problem. Potrebna je kombinacija javne odgovornosti, regulatornog okvira i tehničke transparentnosti kako bismo umanjili rizike, a iskoristili potencijalne koristi.
Na kraju, pitanje je jednostavno, ali teško: kome da damo poverenje — onima koji viču izvan kapija ili onima koji drže poluge moći? Odgovor zavisi od toga kako ćemo izgraditi institucije koje sprečavaju zloupotrebu i favorizuju javni interes.
Pomozite nam da budemo bolji.
