Annie Jacobsen smatra da je današnji razvoj AI uporediv s ranom fazom razvoja termonuklearnog oružja početkom 1950-ih. Ona upozorava da kombinacija AI i oružja masovnog uništenja predstavlja posebno visok rizik jer danas nema iste državne kontrole kao ranije. Jacobsen takođe izražava sumnju u sposobnost lidera AI kompanija da u potpunosti prepoznaju sve opasnosti, navodeći primer gde je ChatGPT otkrio poverljivu lokaciju u Los Angelesu, što je potom ispravljeno nakon razgovora sa Samom Altmanom.
AI Upoređena Sa Termonuklearnim Oružjem: Annie Jacobsen Upozorava Na Rizike
AI compared to thermonuclear weapon: Annie Jacobsen
Istraživačka novinarka i autorka knjige Biological War: A Scenario, Annie Jacobsen, upozorava da je današnji razvoj veštačke inteligencije (AI) uporediv s ranim fazama razvoja termonuklearnog oružja početkom 1950-ih. U gostovanju u emisiji On Balance za NewsNation, Jacobsen objašnjava zašto smatra da kombinacija AI i oružja masovnog uništenja predstavlja poseban i alarmantan rizik.
Analogija sa razvojem termonuklearnog oružja
Jacobsen ističe da je trenutna situacija s AI slična periodu 1951–1952, kada su naučnici razvijali termonuklearne kapacitete koji su imali daleko veću razornu moć od ranijih atomskih bombi. Tada su ti radovi bili strogo kontrolisani od strane vlade, dok danas razvoj AI često dolazi iz privatnog sektora i otvorenih istraživanja.
"Nalazimo se u ovom trenutku i razlog zašto je AI posebno opasna kada se kombinuje sa oružjem masovnog uništenja, analogan je, recimo, 1951. i 1952. kada su vladini naučnici razvijali termonuklearno oružje."
Sumnja u sposobnost lidera tehnoloških kompanija
Jacobsen, koja je bila finalista Pulicerove nagrade, izražava skepsu prema tvrdnjama da izvršni direktori vodećih AI kompanija zaista razumeju sve rizike. Navodi da su razgovori sa stručnjacima širom sveta dodatno produbili njenu zabrinutost da postoje nepoznate slabosti i mogućnosti zloupotrebe.
Konkrektan primer: ChatGPT i poverljiva lokacija
U intervjuu je navela ličan primer — razgovor sa Samom Altmanom u kojem mu je objasnila da je uspela da natera ChatGPT da otkrije poverljivu lokaciju Nacionalnog strateškog rezervata u Los Angelesu. Prema njenim rečima, nakon tog razgovora ta funkcionalnost je uklonjena iz modela, ali ostaje pitanje koje druge ranjivosti tek treba otkriti.
"Bilo mi je jasno da Sam Altman nije bio svestan da je to moguće, i nakon našeg razgovora, taj deo u ChatGPT-ju je nestao. Ali ko zna šta još ostaje nepoznato."
Jacobsen apeluje na veću transparentnost, strožiju regulaciju i međunarodnu saradnju kako bi se rizici od kombinovanja AI i oružja masovnog uništenja smanjili.
Napomena: Izvor informacije je intervju za NewsNation; primer koji Jacobsen navodi odnosi se na razgovor sa kreatorima modela i na promene koje su usledile, ali nije detaljno verifikovan nezavisnim izvorima.
Pomozite nam da budemo bolji.
