Ujedinjene nacije i Međunarodni komitet Crvenog krsta upozorili su da svet žuri ka scenariju u kome autonomno oružje može ciljati ljude bez ljudske kontrole i zatražili hitnu međunarodnu regulaciju. Traže zabranu naročito nepredvidivih sistema i onih koji direktno ciljaju ljude. Države su pozvane na „političku hrabrost“ i na početak pregovora u novembru, dok naučnici i inženjeri takođe upozoravaju na opasnosti.
UN i Crveni krst: Svet „opasno blizu“ ere ubilačkih robota — poziv na hitnu međunarodnu regulaciju
International Committee of the Red Cross (ICRC) president Mirjana Spoljaric has made a new warning over the development of 'killer robots' (Shamil Zhumatov)
Ujedinjene nacije i Međunarodni komitet Crvenog krsta (ICRC) upozorili su da je svet „opasno blizu“ budućnosti u kojoj bi autonomni, takozvani „ubilački roboti“, mogli da ciljaju ljude bez ljudske kontrole. U zajedničkom saopštenju istaknuli su hitnu potrebu za međunarodnim pravilima i ograničenjima kako bi se sprečile katastrofalne posledice po civile i po poštovanje međunarodnog humanitarnog prava.
Ovo upozorenje sleduje poziv iz 2023. koji su uputili generalni sekretar UN Antonio Guterres i predsednica ICRC Mirjana Spoljaric, kada su tražili specifične zabrane i ograničenja za brzo razvijajuću tehnologiju. U saopštenju su poručili: „Danas taj poziv obnavljamo s još većom hitnošću… rizici su se pojačali."
"Sada smo opasno blizu prelaska moralne crvene linije: autonomnog ciljanju ljudi od strane mašina." — Antonio Guterres i Mirjana Spoljaric
Šta tačno zabrinjava stručnjake?
Smrtonosni autonomni sistemi naoružanja obično se definišu kao sistemi koji mogu da biraju mete i primene silu bez neposredne ljudske intervencije. ICRC upozorava da se takvi sistemi već koriste u borbenim i drugim okruženjima, što, prema Laurentu Giselu, šefu odeljenja za oružje i vođenje sukoba pri ICRC, povećava rizik da civili budu pogođeni i ubijeni.
Do sada nije potvrđena upotreba potpuno autonomnog oružja koje je direktno ciljalo ljude, ali rastuće tenzije i širenje dronova u sukobima na Bliskom istoku i u Ukrajini pojačavaju strahovanja da bi to moglo da se promeni.
Koje mere predlažu UN i ICRC?
U zajedničkom pozivu lideri su zatražili od država „političku hrabrost“ i pozvali na brzo pokretanje pregovora o obavezujućem međunarodnom sporazumu — odluka o početku pune faze pregovora očekuje se u novembru.
ICRC ne traži zabranu svih autonomnih sistema, ali naglašava da su neophodne zabrane za dve kategorije koje predstavljaju najveći rizik:
- Nepredvidivi autonomni sistemi — sistemi čije ponašanje operateri ne mogu pouzdano da prevedu ili predvide, što povećava rizik od pogrešnih ili nepravednih upotreba sile.
- Antipersonalni autonomni sistemi — sistemi koji direktno ciljaju ljude bez efektivne ljudske prosudbe ili kontrole.
Guterres, Spoljaric i stručnjaci pozivaju da se inovacija podredi bezbednosti i ljudskim vrednostima: „Inovacija mora služiti čovečanstvu — a ne da ga ugrožava." Mnogi naučnici i inženjeri koji rade na ovim tehnologijama takođe su podigli alarm i zatražili ograničenja.
Državama preostaje nekoliko meseci da odluče da li će pokrenuti obavezujuće pregovore. Po rečima lidera UN i ICRC, nečinjenje sada bi moglo imati smrtonosne posledice u budućnosti.
Pomozite nam da budemo bolji.
