Sažetak: 6. jula u Zaporožju dron vođen veštačkom inteligencijom udario je u zid pored benzinske pumpe i eksplodirao, usmrtivši tri osobe, uključujući Tetianu Bubynets. Iz olupine je izvučen Nvidia Jetson Orin sa nekriptovanim snimcima i kodom za detekciju objekata, što sugeriše da je konačna odluka o udaru doneta autonomno. Incident otvara ozbiljna pitanja o upotrebi potpuno autonomnih oružnih sistema i potrebi za međunarodnom regulacijom.
Autonomni dron ubio tri osobe u Zaporožju — iz olupine pronađen Nvidia Jetson Orin
Image: Sputnik Mediabank
6. jula, u blizini benzinske pumpe u Zaporožju, ruski dron je udario u zid i eksplodirao, pri čemu su poginule tri osobe, među kojima i 19-godišnja studentkinja Tetiana Bubynets. Istražitelji su utvrdili da niko ljudski nije izdao konačnu naredbu za napad — odluku je doneo model na bordo računaru drona.
Ključni nalaz: iz ostataka drona izvučen je miniračunar Nvidia Jetson Orin sa nekriptovanim podacima. Istraživači su direktno pročitali snimke terena za vizuelnu navigaciju i kod za detekciju objekata obučen da prepoznaje kategorije poput propanskih rezervoara i skladišta goriva.
Dron je bio jedan od oko šest lansiranih u talasu napada na grad. Na modulu nije pronađena radio-antena niti podatkovna veza koja bi ga povezala sa udaljenim operaterom — sve odluke, od navigacije do detonacije, izvršavane su lokalno na uređaju.
"Za koju godinu živećemo u filmu 'Terminator'. Ovo nije šala. Mašine donose odluke o udaru." — Col. Serhiy Minaiev, komandant protivvazdušne odbrane Zaporožja
Prethodne primene AI u dronovima uglavnom su koristile modele za pomoć pri navigaciji dok je čovek odlučivao o cilju. U ovom slučaju, konačna selekcija tačke udara i trenutak detonacije delegirani su autonomnom modelu na brodu — što čini ovaj incident prvim dokumentovanim slučajem civilnih žrtava uzrokovanih potpuno autonomnim sistemom ciljanja u ovom ratu, prema Kateryni Bondar iz Wadhwani AI Centra pri CSIS-u.
Analiza sugeriše da je sistem bio "krhak": u pokušaju da zaobiđe stambenu zgradu dron je pogodio betonski zid i eksplodirao, a model nije dovoljno razlikovao fasadu zgrade od potencijalno opasnog cilja kao što je rezervoar goriva. Rezultat je tragičan — tri života izgubljena su zbog greške u algoritmu i neusaglašenosti modela sa realnim okruženjem.
Nvidia je potvrdila autentičnost Jetson Orin modula, napominjući da kompanija direktno ne prodaje u Rusiju, ali da uređaj postoji na tržištu preko preprodavaca i u legalnoj je upotrebi u obrazovnim i istraživačkim okruženjima.
Stanovnici su, kao praktičnu reakciju, počeli da prekrivaju propanske rezervoare plastičnim ceradama kako bi zbunili sistem za prepoznavanje objekata — jednostavan primer niskotehnološkog otpora algoritamskom ciljanju. Istovremeno, UN i Međunarodni komitet Crvenog krsta (ICRC) sada imaju konkretan slučaj koji će koristiti u pregovorima o pravilima upotrebe autonomnog oružja.
Ukrajinske vlasti su takođe testirale autonomne sisteme protiv vojnih ciljeva na okupiranom Krimu, a bivši zvaničnici tvrde da ti testovi nisu izazvali civilne žrtve. Ipak, ovaj incident naglašava pravne, etičke i bezbednosne rizike polaganja konačne odluke o životu i smrti na potpuno autonomne modele.
Implikacije
Zaporožjski slučaj postavlja konkretna pitanja: ko je odgovoran kada autonomni sistem pogreši; kako osigurati "značajnu ljudsku kontrolu"; i kako regulisati široko dostupne AI-platforme koje mogu biti integrisane u oružne sisteme. Dokumentovani dokaz iz olupine daje snažan argument za hitnu međunarodnu raspravu i mere kontrole rizika.
Napomena: Slučaj se i dalje istražuje, a novi tehnički i forenzički podaci mogu dopuniti ili promeniti trenutne zaključke.
Pomozite nam da budemo bolji.
