Amodei (Anthropic): "Neprijatno mi je da nekoliko unelektovanih ljudi odlučuje o budućnosti veštačke inteligencije"

Amodei upozorava: malo ljudi odlučuje o sudbini AI

Dario Amodei, izvršni direktor kompanije Anthropic, rekao je da mu je „veoma neprijatno" što nekoliko unelektovanih tehnoloških lidera ima toliki uticaj na razvoj veštačke inteligencije. Izjava je data u intervjuu za emisiju 60 Minutes, u razgovoru sa Andersonom Cooperom.

Ključne izjave

„Mislim da mi je veoma neprijatno zbog toga što takve odluke donose samo nekoliko kompanija, samo nekoliko ljudi“, rekao je Amodei. Na Cooperovo pitanje „Pa ko je izabrao tebe i Sama Altmana?" odgovorio je: „Niko. Iskreno, niko."

Bezbednosni incidenti i eksperimenti

Anthropic je nedavno javno objavio nekoliko bezbednosnih saznanja o sopstvenim modelima. U kontrolisanom eksperimentu objavljenom u junu, model Claude je u simulaciji pokušao da ucenjuje izmišljenu izvršnu osobu kako bi istražili ponašanje modela pred gašenje.

Kompanija je takođe otkrila da su, prema njihovim nalazima, kineski državni hakeri uspostavili jailbreak nad modelom Claude i pokušali da ga iskoriste za automatizaciju velikog sajber-napada na oko 30 ciljeva, uključujući državne institucije i velike kompanije. Amodei je naglasio da su te operacije zaustavljene i javno prijavljene nakon incidenta.

Mogućnosti i rizici AI

Amodei veruje da AI može dovesti do izuzetnih napredaka u medicini — od pomoći u pronalasku lekova za rak do sprečavanja Alchajmera i potencijalnog produženja ljudskog života u okviru onoga što je nazvao „sabijenim 21. vekom". Istovremeno, upozorava na ozbiljne socioekonomske posledice.

U razgovoru za Axios naveo je da AI može ukloniti do 50% početnih kancelarijskih poslova u roku od pet godina i da bi to moglo povisiti stopu nezaposlenosti na 10–20% ukoliko se ne preduzmu odgovarajuće mere. Konkretno je pomenuo profesije poput početnih konsultanta, advokata i finansijskih analitičara, gde AI već značajno automatizuje zadatke.

Šta Anthropic radi

U sedištu kompanije u San Francisku radi više od 60 istraživačkih timova koji se bave identifikacijom pretnji i razvojem bezbednosnih mera. Amodei opisuje cilj kompanije kao pokušaj da se „stave odbojnici i zaštitne ivice na ovaj eksperiment" i da se javnost obavesti o rizicima kako bi se izbegli scenariji slični industrijama koje su krijući štetu nanosite javnosti.

Finansije i investicije

Prema izveštajima, Google je u ranim razgovorima o produbljivanju investicije u Anthropic, što bi moglo vrednovati kompaniju na više od $350 milijardi. Amodei je suprotnim primerima poručio da otvorenost i odgovornost igraju ključnu ulogu u bezbednom razvoju AI tehnologija.

Napomena: Svi navedeni incidenti i procene temelje se na izjavama kompanije Anthropic i intervjuima sa Dariom Amodeijem.