Ostavka istraživača Anthropic-a Jacob Coxona podsetila je javnost na rizike AI, dok su panelisti na Air and Space Cyber Conference raspravljali o praktičnoj primeni AI u protivdron odbrani. Michael Hiatt je istakao da je poverenje u sisteme presudno jer su rokovi reakcije merljivi u sekundama, te da DE oružja mogu ponuditi efikasno, niskotarifno rešenje. Panelisti upozoravaju da industrija mora brzo da razvije standarde i regulative kako bi vojske mogle bezbedno da uvedu veću automatizaciju.
Vazduhoplovstvo SAD Mora Da Izgradi Poverenje U AI: Automatizacija Menja Protivdron Odbranu
Tacet Venari participants analyze metadata to identify any suspicious activity on the network during exercise Tacet Venari at Ramstein Air Base, Germany, May 12, 2022. (U.S. Air Force photo by Airman 1st Class Jared Lovett)
Ostavka istraživača iz Anthropic-a, Jacoba Coxona, ponovo je pokrenula raspravu o potencijalnim rizicima veštačke inteligencije. Coxon je upozorio da „ljudi koji razvijaju AI iskreno veruju da bi nas do kraja decenije mogla sve ubiti”, što je podstaklo i dalje diskusije o bezbednosti i odgovornom razvoju tehnologije.
Na panelu posvećenom protivdron odbrani održanom u okviru Air and Space Cyber Conference, Michael Hiatt, glavni tehnološki direktor kompanije Epirus, izneo je praktičniji pogled na primenu AI u borbenim uslovima.
„Svi pričaju o asimetriji troškova… Ali za ljude na terenu, kapetana koji donosi odluku, to nije problem asimetrije troškova. To je pitanje poverenja u magacin municije,” rekao je Hiatt, misleći na ograničen broj presretača i brzinu odgovora.
Hiatt objašnjava da prijetnje bespilotnim letelicama (UAS) često dolaze u masovnim napadima gde je vreme reakcije merljivo u sekundama. U tom kontekstu, poverenje u sisteme — da će DE (usmerena energija) oružja neutralisati metu efikasno, sa niskim kolateralom i niski troškom po ispaljenom „pucnju” — presudno je za odluku da se aktivira odbrambeni sistem.
„Znam da će moja DE oružja moći da ga unište, i to na način sa malim kolateralnim štetama, po izuzetno niskom trošku po pucanju, i što je najvažnije, tako da sačuvam svoj magacin — moje oskudne presretače, pa ću moći da pritisnem taj dugme,” dodao je Hiatt.
Prema Hiattu, primena AI u protivdron odbrani treba da počne sa ljudima "u petlji" (human-in-the-loop), ali cilj je napredovati ka rešenjima gde ljudi pokreću procese i nadgledaju ih, dok sistem automatski obavlja kritične zadatke — sve dok je poverenje u sistem izgrađeno i verifikovano.
Panelisti su takođe istakli regulatorni i etički izazov: industrija još uvek oblikuje standarde i pravila za upotrebu AI, što otežava brzo i sigurnosno poverljivo uvođenje potpuno automatizovanih rešenja. Međutim, kako su naglasili, „mačka je već iz torbe” — protivnički akteri već koriste brze i često neodgovorne AI agente, pa vojske moraju da ubrzaju razvoj i adaptaciju odbrambenih sistema.
„Vojka mora da nastavi da se razvija, jer se i pretnja razvija,” rekao je Colton Wood, tehnički direktor Digital Force Technologies. „Ako ne prilagodimo odbranu da to neutralizuje, uvek ćemo biti u defanzivi.”
Za čitaoce u Srbiji i regionu, tema je relevantna kao deo šire globalne rasprave o bezbednosti, regulativi i tehnologiji: kako brzo rastuća AI rešenja utiču na vojne sposobnosti, koliko je važno testiranje i verifikacija sistema, i na koji način zemlje i industrija mogu da balansiraju efikasnost i bezbednost.
Ključne implikacije: izgradnja poverenja u automatizovane odbrambene sisteme zahteva transparentne testove, jasne regulative i operativne dokaze da tehnologija funkcioniše pouzdano pod pritiskom kratkih rokova.
Pomozite nam da budemo bolji.
