Dario Amodei iz Anthropic-a rekao je da kompanija ne zna tačno kako je model Claude korišćen u napadu u Iranu u kojem je navodno stradalo oko 120 dece. Preliminarni izveštaji i anonimni američki zvaničnici ukazuju da su SAD moguće odgovorne, dok Pentagon nije zvanično potvrdio odgovornost. Anthropic tvrdi da upotreba modela nije prekršila interne politike i ističe princip da čovek donosi konačnu odluku. Konflikt s Ministarstvom odbrane SAD nastao je kada je Amodei odbio zahtev za neograničen pristup Claude-u zbog brige o nadzoru i autonomnom oružju.
Izvršni direktor Anthropic-a: „Ne znamo tačno“ kako je Claude AI povezan s smrtonosnim napadom u Iranu
Amodei made the comments during Bloomberg’s "The Circuit with Emily Chang."Photographer: Prakash Singh/Bloomberg
Generalni direktor Anthropic-a, Dario Amodei, izjavio je za Bloomberg da kompanija ne zna tačno na koji način je njihov model veštačke inteligencije Claude mogao doprineti raketnom napadu u Iranu koji je krajem februara navodno doveo do smrti oko 120 dece u osnovnoj školi.
Kontekst i izjave
Amodei je izjave dao u emisiji "The Circuit with Emily Chang", istakavši ograničenja u pristupu informacijama o tome kako su modeli korišćeni u konkretnim vojnim operacijama.
„Nemamo pristup, ne znamo tačno kako su ovi modeli korišćeni“, rekao je Amodei za Bloomberg.
On je dodao da, po proceni kompanije, konkretna upotreba u slučaju napada nije prekršila interne politike Anthropic-a i podvukao princip kompanije da ljudska odluka treba da ostane konačna:
„Princip koji smo uspostavili, i koji mislim da je ovde poštovan, jeste da čovek donosi konačnu odluku.“
Istraga i izveštaji
Preliminarni vojni izveštaj, kako je preneo The New York Times pozivajući se na nezvanične američke izvore, ukazao je na mogućnost da su SAD bile odgovorne za bombardovanje. Slično je naveo i The Wall Street Journal, pozivajući se na anonimne američke zvaničnike koji smatraju da su američke snage verovatno odgovorne. Pentagon se zvanično nije oglasio; Forbes je pokušao da dobije komentar od Pentagona.
U izveštajima je pomenuta i Tomahawk raketa — municija koja, prema dostupnim podacima, nije u upotrebi kod iranske ili izraelske vojske.
Odnos Anthropic-a i Ministarstva odbrane SAD
Anthropic navodi da su njegovi modeli ranije korišćeni od strane Ministarstva odbrane SAD i drugih bezbednosnih agencija za obaveštajnu analizu, modelovanje i simulacije, operativno planiranje, sajber operacije i srodne svrhe. Međutim, odnos između kompanije i Pentagona zategao se kada je Amodei odbio zahtev sekretara za odbranu Petea Hegsetha za neograničen pristup modelu Claude, izričući zabrinutost zbog potencijala za masovni državni nadzor i razvijanje potpuno autonomnog oružja.
Kao rezultat te nesuglasice, vojska je raskinula ugovor sa Anthropic-om i označila kompaniju kao rizik u lancu snabdevanja za nacionalnu bezbednost; Anthropic trenutno osporava tu oznaku na sudu.
Reakcije i šira debata
U intervjuu za Bloomberg, Amodei je takođe branio odgovornu upotrebu AI u odbrambenom kontekstu, tvrdeći da zabrana takvih alata može ograničiti sposobnost odbrane država koje se suočavaju s agresivnim protivnicima koji koriste AI za analizu obaveštajnih podataka i vođenje napada.
Predsednik Donald Trump izjavio je da smatra da je Iran mogao izvesti napad zbog "netačnosti municije", ali je takođe priznao da ne zna dovoljno o incidentu.
Zaključak
Incident je podstakao dodatna pitanja o transparentnosti i kontroli korišćenja naprednih AI sistema u vojnim i obaveštajnim operacijama. Dok istrage nastavljaju, izjave Anthropic-a naglašavaju da kompanije često nemaju uvid u konkretne načine primene njihovih modela kada ti sistemi postanu deo šireg lanca upotrebe.
Pomozite nam da budemo bolji.
