Anthropic je u izveštaju objavio da je blokirao više naloga i identifikovao pet studija slučaja i oko 35 sumnjivih istraživačkih napora u periodu od 30 dana. Primeri uključuju zahteve za gain-of-function istraživanja na chikungunya virusu, rad na ptičjem gripu, ortopoksviruse i toksine. Kompanija navodi da novi modeli poput Claude Fable 5 imaju jače zaštite, ali upozorava da su rizici zloupotrebe u porastu i poziva na koordinisanu regulaciju i jačanje bezbednosnih sistema.
Anthropic: Blokirali Pokušaje Korišćenja AI Za Razvoj Biološkog Oružja
Anthropic said that recent models, including Claude Fable 5, have "stronger safeguards that restrict access to a wide range of dual-use biological research queries." - Chris Ratcliffe/Bloomberg/Getty Images
Kompanija Anthropic saopštila je da je zatvorila više naloga koji su koristili njihove modele veštačke inteligencije na načine koji bi mogli pomoći u razvoju biološkog oružja. U novom izveštaju kompanija opisuje pet konkretnih studija slučaja i identifikuje oko 35 potencijalno sumnjivih istraživačkih napora u periodu od 30 dana.
Ključni nalazi iz izveštaja
Pet studija slučaja: Anthropic navodi da su korisnici zaobilazili kontrole pristupa i pokušavali da zamagle cilj istraživanja kako bi izbegli bezbednosne mehanizme. Među primerima su zahtevi za gain-of-function istraživanja na prenosivosti i izbegavanju imunog odgovora kod virusa chikungunya, rad na ptičjem gripu usmeren na prilagodjavanje virusa sisarima, istraživanja ortopoksvirusa (grupa koja uključuje variolu i mpox) i studije toksina iz otrova.
Obim i neizvesnost: Analizirajući aktivnosti tokom 30 dana, Anthropic je identifikovao oko 35 "distinct research efforts" sa potencijalno zabrinjavajućim obrascima. Kompanija napominje da nije mogla sa sigurnošću da utvrdi da li je cilj bio naneti štetu ili sprovesti legitimna naučna istraživanja, iako su neki akteri opisani kao "radni naučnici".
Zaštite i izazovi
Anthropic ističe da noviji modeli — uključujući Claude Fable 5 — imaju unapređene mere koje ograničavaju pristup širokom spektru dvostruko upotrebljivih bioloških upita. Ipak, izveštaj upozorava da raste sposobnost zlonamernih aktera da koriste AI za sofisticirane napade: "Sofisticirani napadi više ne zahtevaju sofisticirane napadače."
Kompanija takođe navodi da je ometala pokušaje korišćenja svojih modela za operacije nadzora, prevare i razvoj konvencionalnog oružja, poput dronova i raketa.
Širi kontekst i pozivi na regulaciju
Objava dolazi u trenutku intenzivnih debata unutar AI zajednice o rizicima tehnologije. Zaposleni i bivši zaposleni upozoravaju na potencijalne opasnosti — od kompromitovanja kritične infrastrukture do zloupotrebe u biomedicinskim istraživanjima. U julu je skoro 1.400 zaposlenih iz AI sektora potpisalo otvoreno pismo pozivajući američku vladu na regulaciju i usporavanje ritma razvoja zbog bezbednosti.
"Kako naši modeli postaju sve sposobniji, očekujemo da će njihov uticaj rasti, i u korisnim i u potencijalno štetnim kontekstima," navodi se u izveštaju Anthropic-a.
Anthropic poziva na usaglašen, verifikovan i zakonit mehanizam saradnje među provajderima i vlastima kako bi se bezbednije upravljalo objavljivanjem i primenom moćnih modela.
Zaključak
Izveštaj podcrtava dvostruku prirodu napretka u AI za bio-nauke: velike mogućnosti za razvoj lekova i terapija, ali i rastući rizik od zloupotrebe. Potrebni su jači tehnički i regulatorni okviri kako bi se omogućila korisna naučna istraživanja, a istovremeno minimizovali rizici zloupotrebe.
Pomozite nam da budemo bolji.
