Microsoft, Google i xAI omogućili su CAISI-ju pri Ministarstvu trgovine SAD rani pristup najnovijim AI modelima radi preliminarnih procena nacionalne bezbednosti. Centar je do sada obavio više od 40 evaluacija, često testirajući verzije bez uobičajenih bezbednosnih ograničenja. Sporazum nadograđuje ranije dogovore sa OpenAI i Anthropic iz 2024. i dolazi u kontekstu nedavnih upozorenja Pentagona o bezbednosnim i sajber-rizicima.
Microsoft, Google i xAI Daju Rani Pristup AI Modelima SAD Radi Procene Nacionalne Bezbednosti
Microsoft Corp., Alphabet-ov Google i xAI, kompanija Elona Muska, dogovorili su se da američkoj vladi omoguće rani pristup svojim najnovijim modelima veštačke inteligencije kako bi se sprovela preliminarna procena rizika za nacionalnu bezbednost.
Centar za standarde i inovacije u oblasti veštačke inteligencije (Center for AI Standards and Innovation, CAISI) pri Ministarstvu trgovine objavio je sporazum u utorak. U okviru dogovora, CAISI će moći da pregleda i istraži modele pre njihove javne primene kako bi procenio njihove sposobnosti, ograničenja i potencijalne bezbednosne pretnje.
CAISI je do sada sproveo više od 40 evaluacija, uključujući analize naprednih modela koji još nisu javno dostupni. Prema izveštaju, razvojni timovi ponekad dostavljaju verzije modela iz kojih su uklonjena bezbednosna ograničenja kako bi se omogućilo temeljno testiranje mogućih zloupotreba ili ranjivosti.
Chris Fall, direktor CAISI, naglasio je neophodnost nezavisne i rigorozne nauke merenja da bi se precizno razumeli uticaji najnaprednije AI tehnologije na nacionalnu bezbednost.
Dogovor nadograđuje ranije sporazume iz 2024. godine sa OpenAI i Anthropic, uspostavljene tokom administracije predsednika Bidena, kada je CAISI delovao pod imenom U.S. Artificial Intelligence Safety Institute.
Sporazum dolazi u trenutku pojačanih zabrinutosti zbog bezbednosti: nedavno je visoki tehnološki zvaničnik Pentagona, Emil Michael, ukazao na moguće rizike kod Anthropic-ovih Claude modela, kao i na napredne sajber-mogućnosti modela Mythos koje bi mogle identifikovati i ispraviti ranjivosti u informacionim sistemima.
Istog dana, Ministarstvo odbrane SAD saopštilo je i da je zaključilo sporazume sa sedam kompanija — među kojima su Alphabet-ov Google, OpenAI, Nvidia Corp., Microsoft Corp., Amazon, SpaceX i startup Reflection — za primenu njihovih AI rešenja na klasifikovanim mrežama u svrhu odobrenih operativnih upotreba, sa ciljem diverzifikacije sistema i kapaciteta.
Kent Walker, predsednik Alphabet-a za globalna pitanja, potvrdio je da Google namerava da podrži odbrambene agencije pri integraciji AI, navodeći da je pristup kompanije prema vojnoj upotrebi tehnologije u skladu sa politikama drugih vodećih laboratorija.
Šta ovo znači: Rani pristup modelima može pomoći vlastima da ranije identifikuju ozbiljne rizike i pripreme mere zaštite, ali takođe otvara pitanja o transparentnosti, privatnosti i balansu između bezbednosti i inovacija. Sporazumi pokazuju intenzivnu saradnju između privatnog sektora i države u nastojanju da se veštačka inteligencija bezbedno integriše u kritične sisteme.
Pomozite nam da budemo bolji.
