Anthropic je predstavio Fable, chatbot baziran na tehnologiji Mythos, ali su neki naučnici tvrdili da model automatski blokira biomedicinske profile i preusmerava biološke upite na slabije verzije. Kompanija navodi da je meru uvela zbog rizika od potencijalne zloupotrebe u stvaranju biološkog oružja i radi na programu poverljivog pristupa za istraživače. Odluka je izazvala raspravu o ravnoteži između bezbednosti i otvorenog naučnog rada.
Naučnici Negoduju: Anthropicov Fable Isključuje Biomedicinske Istraživače
Fable is redirecting all questions about biology to a less powerful version of its technology
Naučnici optužuju kompaniju Anthropic da im je ograničila pristup novom AI modelu Fable zato što prepoznaje njihove profesionalne profile i automatski blokira ili preusmerava odgovore na pitanja iz oblasti biologije.
Američki tehnološki startap objavio je Fable — chatbot razvijen na istoj tehnologiji kao njihov najnapredniji model Mythos, koji je ranije zadržan zbog bezbednosnih rizika. Anthropic navodi da je Fable opremljen zaštitnim mehanizmima koji treba da spreče zloupotrebu sistema za opasne aktivnosti, uključujući hakovanje ili potencijalnu izradu biološkog oružja.
Optužbe istraživača
Prof. Derya Unutmaz, biolog iz nevladine organizacije Jackson Institute, izjavio je da mu je praktično onemogućen kontakt s Fableom čak i za banalne upite.
„Ne mogu čak ni da pozdravim Fable 5 osim u incognito modu zato što zna da sam biomedicinski istraživač“, naveo je prof. Unutmaz na mreži X.
„Kako do đavola ovaj prompt predstavlja sajberbezbednosni ili biološki rizik! Gotovo svaki prompt koji pokušam vraća istu grešku. Ne mogu čak ni da izgovorim reč ‘rak’ pred Fable 5.“
James Schnable, genetičar biljaka sa University of Nebraska, napisao je da izgleda kao da je „svaki biolog u njihovoj bazi“ stavljan na crnu listu. Takve tvrdnje su izazvale zabrinutost među naučnicima oko pravednog pristupa istraživačkom alatu.
Odgovor Anthropica
Matt Durant, istraživač iz oblasti životnih nauka u Anthropic, rekao je da Fable preusmerava upite vezane za biologiju na manje snažnu verziju modela. Kompanija je pojasnila da je ova mera uvedena jer je rizik da bi model mogao pomoći u stvaranju biološkog oružja „nizak, ali veći nego kod prethodnih modela”.
Anthropic navodi da radi na programu „poverljivog pristupa” (trusted access) kako bi legitimni istraživači mogli da dobiju kontrolisan, nadzorovan pristup modelima klase Mythos za istraživanja u biologiji.
Zabrinutosti oko istraživanja i otvorenosti
Pored ograničenja za biologe, Anthropic je uveo i skrivene blokade koje ciljaju upite koje bi mogli upotrebiti istraživači AI-ja za ubrzavanje razvoja sopstvenih modela. Wei Xing, docent na University of Sheffield, upozorio je da to znači da korisnici ne mogu uvek znati da li su dobijeni odgovori „najbolji mogući“ ili svesno umanjeni.
Odluke Anthropica poklapaju se sa širim regulatornim pritiskom: Bela kuća je nedavno izdala izvršnu naredbu kojom se od AI kompanija traži da dostave najnaprednije modele na do 30 dana predobjavljivačkog testiranja kako bi se uočili potencijalni rizici.
Implikacije
Situacija podiže ključna pitanja o balansu između javne bezbednosti i otvorenosti naučnog rada. Istraživači upozoravaju da preterana ograničenja mogu usporiti napredak i saradnju, dok kompanije ističu potrebu za oprezom zbog mogućih zlonamernih zloupotreba.
Zaključak: Spor između Anthropica i biomedicinske zajednice ilustruje kako brz napredak u AI tehnologijama zahteva pažljivo upravljanje pristupom — ali i jasne mehanizme za obezbeđivanje da legitimni naučni rad ne bude nepotrebno onemogućen.
Pomozite nam da budemo bolji.
