Anthropic je podneo tužbu protiv Pentagona nakon što je označen kao rizik u lancu snabdevanja zbog ograničenja upotrebe njegove AI tehnologije. Kompanija tvrdi da oznaka krši slobodu govora i procesna prava, dok Pentagon tvrdi da zakon daje države pravo da odlučuje o odbrani. Spor može uticati na buduće ugovore i pregovore između vlade i AI kompanija.
Anthropic Tuži Pentagon Zbog 'Crne Liste' — Spor Oko Ograničenja Upotrebe AI
FILE PHOTO: The Pentagon logo is seen behind the podium in the briefing room at the Pentagon in Arlington, Virginia, U.S., January 8, 2020. REUTERS/Al Drago/File Photo
NEW YORK, 9. mart — Kompanija Anthropic u ponedeljak je podnela tužbu kako bi sprečila Pentagon da je uvrsti na nacionalnu "crnu listu" za bezbednost lanca snabdevanja, što je dodatno zaoštrilo sukob između startapa za veštačku inteligenciju i američke vojske oko ograničenja primene njihove tehnologije.
U četvrtak je Ministarstvo odbrane formalno dodelilo Anthropicu oznaku rizika u lancu snabdevanja, navodeći da je tehnologija, prema izvorima, korišćena u vojnim operacijama u Iranu. Anthropic u podnesku pred federalnim sudom u Kaliforniji tvrdi da je ta odluka nezakonita i da krši prava kompanije na slobodu govora i procesna prava; traži poništenje oznake i zabranu njene primene od strane saveznih agencija.
"Ovi postupci su bez presedana i nezakoniti. Ustav ne dopušta vladi da koristi svoju ogromnu moć da kazni kompaniju zbog njenog zaštićenog govora," navodi Anthropic u izjavi.
Ministar odbrane Pete Hegseth označio je Anthropic kao nacionalni rizik nakon što kompanija nije želela da ukloni bezbednosne mehanizme (guardrails) koji sprečavaju upotrebu njihovih modela za potpuno autonomno naoružanje ili za masovni unutrašnji nadzor. Iz kompanije su tvrdili da trenutno najbolji AI modeli nisu dovoljno pouzdani za upotrebu u potpuno autonomnim borbenim sistemima i da bi takva primena bila opasna, dok su istovremeno postavili jasnu granicu po pitanju nadzora američkih građana.
Odluka Pentagona predstavlja ozbiljnu pretnju za Anthropicove ugovore i poslovanje sa državom, a ishod spora mogao bi oblikovati kako će druge AI firme pregovarati o ograničenjima vojne primene tehnologije. Izvršni direktor Anthropic-a Dario Amodei izjavio je da oznaka ima "uzak opseg" i da poslovni subjekti i dalje mogu koristiti njihove alate u projektima koji nisu povezani sa Ministarstvom odbrane.
Predsednik Donald Trump je takođe naredio obustavu saradnje sa Anthropicom, navodeći da će se saradnja povlačiti u roku od šest meseci; njegovo administrativno postupanje zajedno sa Hegsethovim potezima podstaklo je zabrinutost među investitorima kompanije koji su, prema izveštajima, pokušavali da ublaže posledice spora.
Anthropic je dodatno kritikovao proces dodele oznake kao pravno neutemeljen i opasan presedan za kompanije koje pregovaraju sa državnim institucijama, poručujući da neće podleći "zastrašivanju ili kažnjavanju". Amodei se takođe izvinio zbog internog memoranduma koji je procureo i u kojem je kritikovao ponašanje zvaničnika Pentagona, navodeći da su neki zvaničnici bili nezadovoljni delom zato što kompanija "nije hvalila Trampa".
U protekloj godini Ministarstvo odbrane potpisalo je sporazume vredne do 200 miliona dolara po ugovoru sa vodećim AI laboratorijama, uključujući Anthropic, OpenAI i Google. Neposredno nakon najave o stavljanju Anthropic-a na listu, OpenAI je potvrdio dogovor o korišćenju svoje tehnologije u mreži Ministarstva odbrane, a izvršni direktor Sam Altman je istakao okoštalost principa o ljudskom nadzoru nad oružanim sistemima i protivljenju masovnom nadzoru.
Ovaj slučaj spaja pitanja državne bezbednosti, etike u razvoju veštačke inteligencije i granica između poslovne autonomije tehnoloških kompanija i zahteva državnih institucija. Proces pred federalnim sudom u Kaliforniji mogao bi postaviti presedan za buduće odnose između vladinih kupaca i dobavljača tehnologije u oblasti AI.
(Izveštavanje: Jack Queen; Reuters)
Pomozite nam da budemo bolji.
