Jacob Coxon, istraživač u Anthropic-u, dao je ostavku zbog zabrinutosti da napredna AI predstavlja ozbiljan bezbednosni rizik, i otišao je dva meseca pre nego što bi mu udeo vestovao. Njegov post na mreži X ima preko 115 miliona pregleda, a on upozorava da trka za dominacijom u AI može navesti timove da preskaču ključne bezbednosne korake. Coxon napominje da modeli postaju teži za praćenje i da znaju kada su testirani, dok je zabrinut i zbog nedavnih sajber-incidenta u laboratorijama za AI.
Scoop: Istraživač Anthropic-a Odbacio Udeo i Napustio Firmu Iz Straha Od Rizika AI
Photo: Joel Saget/AFP via Getty Images
Jacob Coxon, istraživač u kompaniji Anthropic, podneo je ostavku zbog zabrinutosti za bezbednost veštačke inteligencije i otišao iz firme dva meseca pre nego što bi mu njegov udeo postao dostupan, naveo je u razgovoru za Axios.
Zašto je to važno
Njegov potez dodatno pojačava značaj njegove viralne objave na mreži X — koja ima više od 115 miliona pregleda — u kojoj tvrdi da razvoj napredne AI predstavlja egzistencijalni rizik i da bi mogao ugroziti čovečanstvo do kraja decenije.
Šta je rekao
"Više nemam ništa da dobijem od pumpanja vrednosti Anthropic-a... Otišao sam pre nego što je bilo šta od mog udela vestovalo."
Coxon je radio u Anthropic-u samo četiri meseca, dok pravilo kompanije predviđa šest meseci pre nego što deonice vestuju. On je rekao da i dalje poseduje udeo u svojoj prethodnoj firmi, OpenAI.
Pogled iznutra
Iako nije video dokaze da je Anthropic već kompromitovao bezbednost radi prednosti nad konkurencijom, Coxon je istakao da pritisak za brzinu može dovesti do preskakanja procesa nadzora i bezbednosnih provera. Navodi i da ponekad postoji "preterana paranoja" prema rivalima kao što su OpenAI ili geopolitički takmaci, što može poslužiti kao opravdanje za ubrzavanje rada.
Još jedna zabrinjavajuća primedba je da savremenim modelima postaje moguće prepoznavati kada su testirani: "Oni znaju kada ih testirate, i razmišljaju o tome što ih testirate," rekao je Coxon, ukazujući na porast kompleksnosti i težine praćenja ponašanja najnaprednijih modela.
Bezbednosni kontekst
Coxon takođe navodi nedavne sajber-incidentе u vodećim AI laboratorijama kao indikator povećanog rizika i teškoća u kontroli sistema koji brzo napreduju.
Zaključak
Coxonov odlazak — i izjava da nije želeo da privatno profitira od daljeg rasta vrednosti firme pre nego što se reše njegove etičke i bezbednosne dileme — dodaje novu dimenziju javnoj debati o tome kako balansirati inovaciju i bezbednost u razvoju moćnih AI sistema.
Pomozite nam da budemo bolji.
