Ukrajinski proizvođač dronova Alexander Kokhanovskyy rekao je za New Scientist da je njihov potpuno autonomni kvadrokopter na frontu u Ukrajini identifikovao i napao nekoliko ljudi i kamion, nakon čega je incident navodno čuvan dve godine. Dron je, prema njegovim rečima, kružio oko 10 minuta pre nego što je prešao u "terminatorski režim" i delovao bez veze sa operaterom. Napad je naknadno potvrđen snimcima izviđačkog drona sa ljudskim pilotom. Slučaj intenzivira pitanja odgovornosti, etike i međunarodne regulative za autonomna oružja.
Prvi Potvrđeni Smrtni Slučaj: Potpuno Autonomni Dron Navodno Ubio Vojnike Na Frontu
Illustration by Tag Hartman-Simkins / Futurism. Source: Getty / Unsplash
Čovečanstvo je, prema tvrdnji ukrajinskog proizvođača dronova, prešlo važan i uznemirujući prag: potpuno autonomni robot-orožje navodno je usmrtio ljude na liniji fronta.
U razgovoru za New Scientist, Alexander Kokhanovskyy, visokopozicionirani predstavnik ukrajinske odbrambene industrije, izjavio je da je kvadrokopter koji su razvili bio poslat na front, kružio oko deset minuta, a zatim ušao u ono što je opisano kao "terminatorski režim" — režim u kojem neidentifikovani AI model samostalno prepoznaje i napada ljudske mete.
Prema Kokhanovskyyju, tokom te operacije dron je identifikovao i napao "par [ruskih] vojnika" i jedan kamion. Incident je, kako je rečeno, bio zadržan u tajnosti dve godine, a uspeh napada je naknadno potvrđen snimcima iz izviđačkog drona sa ljudskim pilotom.
"Samo ga lansiramo i znamo da će sve biti mrtvo — sve što se tamo nađe u tom delu biće mrtvo. Nema veze sa dronom uopšte, ne možete videti video, ništa... sve što on vidi biće ubijeno,"
Iako je ovo opisan kao prva javno priznata smrt izazvana u potpunosti autonomnim oružjem, stručnjaci upozoravaju da su vojne sile već godinama približavale takvu mogućnost. Primer su izraelski takozvani leteći samoubilački dronovi (loitering munitions) koji kruže nad zonama sukoba, uz tvrdnje da ljudski operater i dalje donosi konačnu odluku o paljbi.
Takođe, u izveštajima je prijavljeno da su SAD koristile modele velikih jezičkih sistema kao pomoć pri izboru ciljeva u napadima u Iranu; takve tvrdnje su kontroverzne i predmet rasprava o tome koliko je zapravo ljudska odluka bila prisutna u procesu, te su povezivane sa teškim civilnim žrtvama u nekim incidentima.
Šta ovo znači?
Ovaj slučaj pokreće hitna etička, pravna i praktična pitanja: ko snosi odgovornost za autonomne odluke o upotrebi smrtonosne sile, kako se proverava i verifikuje ponašanje AI sistema u boju, i kakve međunarodne norme i kontrole su potrebne da bi se sprečile greške ili zloupotrebe.
Dok se rasprava nastavlja, izjava Kokhanovskyyja podstiče nove pozive na ograničenja, transparentnost i međunarodne sporazume o upotrebi autonomnih oružanih sistema. Važno je napomenuti da su mnoge informacije i dalje predmet verifikacije i da nezavisni dokazi i međunarodne istrage igraju ključnu ulogu u potvrđivanju takvih navoda.
Pomozite nam da budemo bolji.
