AI Futures Project predlaže namerno usporavanje razvoja superinteligencije do 2040. godine kako bi društvo dobilo više vremena za pripremu i smanjenje bezbednosnih rizika. Autori pozivaju na međunarodni dogovor, posebno između SAD i Kine, kao i veću transparentnost AI kompanija, uz izuzetak otkrivanja težina modela. Glavni cilj je ublažavanje rizika kao što su gubitak kontrole nad AI, koncentracija moći i masovni gubitak poslova.
Novo upozorenje: Predloženo usporavanje razvoja superinteligencije do 2040. godine
Illustration: Aïda Amer/Axios
Grupa istraživača iz AI Futures Project predlaže da se razvoj superinteligencije namerno uspori do 2040. godine kako bi društvo imalo više vremena za pripremu i ublažavanje bezbednosnih rizika. Predlog dolazi u obliku novog eseja koji nadograđuje ranije objavljene ideje grupe i poziva na konkretne međunarodne i industrijske mere.
Šta autori predlažu
Autori pozivaju na više taktika: odlaganje glavnih razvojačkih koraka, strožu transparentnost laboratorija (osim težina modela), širjenje kapaciteta na više kompanija i država i dogovor velikih sila o "verifikovanom usporavanju" kako bi se izbegla opasna trka.
Zašto to ima smisla
Esej argumentuje da sporiji tempo može ublažiti ključne rizike: gubitak kontrole nad moćnim sistemima, nedovoljno vremena za donošenje javnih politika, koncentraciju moći u malom broju kompanija i država, kao i velike poremećaje na tržištu rada. Autori tvrde da odlaganje daje društvu više vremena da razvije regulative, nadzorne mehanizme i tehničke sigurnosne mere.
"Ako odložite pojavu superinteligencije, to daje društvu više vremena da se pripremi i više vremena da reši razne probleme koje ona predstavlja," navodi Daniel Kokotajlo, jedan od autora.
Kako bi se to sprovodilo
Mehanizmi uključuju obavezu transparentnog izveštavanja o istraživačkim napretcima (osim modelskih težina), međunarodne sporazume između vodećih sila—posebno SAD i Kine—kao i podsticanje šire saradnje među firmama i istraživačkim centrima kako bi se smanjila tajnovitost i trka za prvenstvom.
Autori napominju političke realnosti: podeljenost u Kongresu SAD, promenljiva stajališta administracije i geopolitičke tenzije otežavaju brze sporazume. Ipak, smatraju da je važno preporučiti mere koje bi bile korisne čak i ako nisu trenutno politički izvodljive.
Ko stoji iza eseja
Među šest autora nalaze se Daniel Kokotajlo (bivši istraživač OpenAI) i Thomas Larsen (suautor ranijeg dokumenta AI 2027). Esej je javnosti predstavljen kroz medijske prenose i analize eksperata.
Zaključak: Predlog AI Futures Project nije tehničko rešenje, već političko i strateško predlaganje — cilj je povećati vremena i kapaciteta za bezbedno upravljanje napretkom prema eventualnoj superinteligenciji.
Pomozite nam da budemo bolji.
