Armin Papperger, direktor Rheinmetalla, pozvao je na međunarodna pravila koja bi garantovala da ljudi zadrže konačnu odluku o upotrebi sile, uprkos rastućoj primeni AI u vojnim sistemima. Na sajmu Eurosatory je istakao da će se odbrambene tehnologije brzo razvijati narednih 10 godina i da su potrebna ograničenja slična regulaciji nuklearnog naoružanja. Rheinmetall tvrdi da trenutno ne proizvodi sisteme bez "čoveka u petlji", ali poziva na globalnu saradnju jer bi protivnička primena AI predstavljala ozbiljan rizik.
Rheinmetall Traži Globalna Pravila Za Upotrebu AI U Oružju: "Čovek Mora Imati Konačnu Reč"
FILE PHOTO - CEO of German arms manufacturer Rheinmetall AG Armin Papperger shows where the warhead is located on the new FV-014 drone ("loitering munition" – a combination of drone and cruise missile) during the annual press conference at the company's headquarters. (is associated with: «Rheinmetall boss urges rules on AI use in weapons») Rolf Vennenbernd/dpa
Armin Papperger, izvršni direktor nemačke kompanije Rheinmetall, pozvao je na uspostavljanje međunarodnih pravila kako bi se osiguralo da ljudi, a ne sistemi zasnovani na veštačkoj inteligenciji (AI), odlučuju o otvaranju vatre u ratnim uslovima.
Na sajmu odbrambene industrije Eurosatory u Villepinteu kod Pariza, Papperger je rekao da će se tehnološke mogućnosti u odbrambenom sektoru verovatno eksponencijalno proširiti tokom narednih deset godina i da zato treba postaviti jasna ograničenja — po uzoru na međunarodne norme koje regulišu nuklearno oružje.
Papperger je istakao da ovakve odluke ne smeju ostati u nadležnosti jedne kompanije ili pojedinca, već da bi trebalo da budu rezultat rada etičkog odbora ili odluke na nivou Ujedinjenih nacija.
Rheinmetall razvija i proizvodi dronove, vojna vozila i brodove koji mogu autonomno da se kreću i koriste AI za navigaciju i druge funkcije. Ipak, Papperger je naglasio da kompanija ne proizvodi sisteme u kojima čovek nema konačnu reč.
„Uvek postoji čovek u petlji,“ rekao je Papperger, objašnjavajući etički pristup kompanije.
Tehnološki gledano, prenosi Papperger, danas je već moguće prepustiti odluke o upotrebi sile AI sistemima. Međutim, kako je naveo, ni Rheinmetall ni njegovi kupci unutar NATO-a ne žele da idu tim putem.
Papperger je upozorio da bi situacija postala izuzetno rizična ako bi protivnička vojska u nekom sukobu odlučila da prepusti konačne odluke AI sistemima. Zbog toga, smatra on, neophodna su dosledna globalna pravila koja bi takav scenario onemogućila.
Šta sledi
Poziv vodioca jedne od vodećih evropskih odbrambenih firmi otvara prostor za međunarodnu debatu o etici i regulaciji autonomnog oružja. Papperger poziva na hitan angažman međunarodnih institucija kako bi se postavili pravni i etički okviri pre nego što tehnologija postane neobuzdana.
Pomozite nam da budemo bolji.
