Mrinank Sharma, vođa bezbednosti AI u Anthropic-u, dao je ostavku i upozorio da je "svet u opasnosti" zbog niza povezanih kriza, uključujući rizike od AI i biološkog oružja. Sharma prelazi na pisanje i studije poezije i planira da se vrati u Ujedinjeno Kraljevstvo kako bi se neko vreme povukao iz javnosti. Njegova ostavka dolazi u talasu zabrinutosti u industriji, paralelno sa ostavkom istraživačice OpenAI-ja zbog uvođenja oglasa u ChatGPT, dok Anthropic nastavlja da balansira između bezbednosnih ambicija i pravnih i poslovnih izazova.
Vođa Bezbednosti AI Napušta Anthropic: „Svet Je U Opasnosti“ — Prelazi Na Poeziju
[Getty Images]
Mrinank Sharma, rukovodilac tima za bezbednost veštačke inteligencije u kompaniji Anthropic, dao je ostavku i u javnom pismu objavljenom na X upozorio da je „svet u opasnosti“ zbog niza međusobno povezanih kriza, uključujući rizike od napredne AI i potencijalne zloupotrebe biotehnologije.
Sharma je napisao da je godinama istraživao mere zaštite — od toga zašto generativni modeli "ulizuju" korisnicima, preko scenarija AI-podržanog bioterorizma, do pitanja kako AI asistenti mogu da utiču na našu humanost. Iako je naveo da je cenio vreme provedeno u kompaniji, zaključio je da je došlo vreme za promenu pravca.
"Svet je u opasnosti. I ne samo zbog AI ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju u ovom trenutku," napisao je Sharma.
U pismu je dodao da je više puta video koliko je teško dopustiti da vrednosti istinski upravljaju odlukama — uključujući i situacije u Anthropic-u gde su zaposleni, prema njegovim rečima, "stalno izloženi pritiscima da odlože ono što je najvažnije." Kao sledeći korak, Sharma je najavio da planira da se preseli u Ujedinjeno Kraljevstvo i posveti pisanju i studijama poezije, želeći da na neko vreme "postane nevidljiv".
Ova ostavka dolazi u isto vreme kada su i drugi istraživači u industriji izrazili slične etičke i strateške zabrinutosti. Prošle nedelje bivša istraživačica OpenAI-ja Zoe Hitzig dala je ostavku i otvoreno kritikovala odluku OpenAI-ja da počne da prikazuje oglase u ChatGPT-u, ističući potencijalnu opasnost od manipulacije korisnika kroz oglašavanje zasnovano na osetljivim razgovorima.
Pozadina: Anthropic, Oglasi i Sporovi
Anthropic, poznat po chatbotu Claude i osnovan 2021. od strane bivših zaposlenih OpenAI-ja, pozicionira se kao kompanija koja prvi plan stavlja bezbednost. Ipak, i ona je bila predmet kritika i pravnih sporova: u 2025. godini kompanija se saglasila da plati 1,5 milijardi dolara kako bi rešila grupnu tužbu autora koji su tvrdili da su njihova dela korišćena za obuku modela bez dozvole.
Kompanija je takođe lansirala reklamne poruke kojima je kritikovala OpenAI zbog uvođenja oglasa u ChatGPT, dok je šef OpenAI-ja Sam Altman ranije izjavio da prezire oglase i da bi ih koristio samo kao "poslednje rešenje". Altman je uzvratio komentarima na kritike, što je pokrenulo dodatnu debatu u javnosti i među stručnjacima.
Anthropic tvrdi da je „public benefit corporation“ posvećen maksimiziranju koristi od AI i umanjenju rizika. Ipak, odluke menadžmenta, pravni sporovi i javne polemike sa konkurencijom pokazuju koliko je teško uskladiti brz tehnološki razvoj, poslovne interese i stroge etičke standarde.
Šta ovo znači
Sharmin izlazak i izjave ističu rastući konflikt između istraživača koji upozoravaju na rizike i poslovnih pritisaka u brzo rastućoj AI industriji. Njegova odluka da se povuče u umetničke prakse poput poezije naglašava i ličnu dimenziju profesionalnog zamora i moralne dileme u polju koje oblikuje budućnost.
BBC News je kontaktirao OpenAI za komentar, a debata o oglašavanju, bezbednosti i odgovornosti u sektoru nastavlja se i verovatno će oblikovati politike i prakse u budućnosti.
Pomozite nam da budemo bolji.
