Jacob Coxon, bivši istraživač Anthropic-a, rekao je da su mnogi stručnjaci „iskreno uplašeni“ zbog brzine napretka veštačke inteligencije i mogućih egzistencijalnih rizika. Lideri industrije, uključujući Daria Amodeija, pozivaju na privremeno usporavanje razvoja i nezavisan nadzor, dok su mišljenja podeljena — neki naučnici procenjuju dvoznamenkaste šanse za katastrofu, a drugi upozorenja smatraju preuveličanim. Ključna pitanja su međunarodna koordinacija, regulacija i transparentnost u razvoju moćnih modela.
Bivši istraživač Anthropic-a: Zaposleni u AI „Iskreno Uplašeni“ — Pozivi Na Usporavanje I Podijeljene Reakcije
AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC
Jacob Coxon, bivši istraživač kompanije Anthropic, izjavio je za BBC da su mnogi stručnjaci koji rade na veštačkoj inteligenciji „iskreno uplašeni“ zbog brzine napretka tehnologije i mogućih egzistencijalnih rizika. Njegov viralni post i odlazak iz kompanije dodatno su podstakli javnu raspravu o potrebi usporavanja razvoja i uvođenja strožeg nadzora.
Pozadina
Coxon (27) je ranije radio u OpenAI, a u intervjuu je naveo da bi, ukoliko se trenutni tempo napretka ne uspori, moglo postojati realno kratkoročno pretnje po opstanak čovečanstva. Njegov bivši šef u Anthropic-u, Dario Amodei, u eseju je takođe pozvao na privremeno usporavanje razvoja i na nezavisan nadzor objavljivanja novih, moćnih modela.
Ko se slaže, a ko sumnja
Za usporavanje razvoja javno su se založili i lideri iz industrije poput Sam Altman (OpenAI) i Elon Musk (xAI), dok su drugi istakli moguće motive iza takvih poziva. Među naučnicima koji su izrazili ozbiljnu zabrinutost su i Anthropic-ov Evan Hubinger i istraživač Geoffrey Hinton, koji je izjavio da procena dvoznamenkaste šanse za katastrofu nije „nepravilan“ stav.
„Verujem da ako ne usporimo trenutni tempo napretka, postoji velika šansa da bismo svi mogli umreti u neposrednoj budućnosti,“ rekao je Coxon.
Mogući scenariji i vremenski okviri
Među navedenim rizicima nalazi se i scenarij u kojem „roj botova“ funkcioniše kao distribuirani superkompjuter i preuzme ključne kontrolne tačke interneta; Coxon je procenio da takav scenarij može postati realan u roku od šest meseci do godinu dana, dok su drugi kolege istakli da značajni rizici mogu postojati i u naredne dve ili više godina.
Reakcije industrije i kritike
Anthropic je odgovorio da u kompaniji svesno rade na merama zaštite i da agresivno testiraju modele, objavljujući nalaze kako bi olakšali nadzor i smanjili rizike. S druge strane, neki lideri iz Silicijumske doline i tehnoloških kompanija pozivali su na oprez u tumačenju dramatizovanih izjava, navodeći da takve poruke ponekad služe za privlačenje pažnje investitora ili strateško pozicioniranje na tržištu.
Širi politički i tržišni kontekst
U diskusiji su se našli i politički akteri: bivši britanski premijer Rishi Sunak, savetnik Anthropic-a, izrazio je zabrinutost, dok su globalni lideri poput američkog predsednika Donald Trumpa isticali geopolitički značaj AI tehnologije. Takođe je pomenuta i potencijalna javna ponuda akcija (IPO) Anthropic-a, kao i odloženi izlazak OpenAI-ja na berzu zbog pitanja bezbednosti.
Šta to znači za javnost
Rasprava otvara važna pitanja: kako uravnotežiti koristi od AI (poput ubrzanja istraživanja bolesti i poboljšanja kvaliteta života) sa potencijalnim rizicima i kako koordinisano regulisati razvoj na međunarodnom nivou kako bi se izbegla trka u kojoj bi bezbednosni kompromisi postali norma.
Zaključak
Industrija je podeljena: deo stručnjaka poziva na hitne mere i usporavanje, dok drugi upozorenja vide kao preuveličana ili motivisana poslovnim interesima. Jasno je da će pitanje regulacije, transparentnosti i međunarodne koordinacije biti centralno u narednim mesecima dok se nove generacije modela razvijaju.
Pomozite nam da budemo bolji.
