RAND upozorava da AI može ubrzati razvoj biološkog oružja, ali ističe da je rizik upravljiv uz koordinisane mere. Izveštaj predlaže devet preporuka koje uključuju kontrolu pristupa biodatim, ometanje snabdevanja materijalima i proaktivno otkrivanje zloupotrebe. Poseban fokus je na upravljanju otvorenim biodatim kroz slojevite sisteme pristupa kako bi legitimni istraživači ostali aktivni bez povećanja rizika.
Mapa Puta Za Sprečavanje AI-Pokretanog Biološkog Oružja — 9 Preporuka RAND‑a
Illustration: Sarah Grillo/Axios. Stock: Getty Images
AI‑pokretano biološko oružje predstavlja realan, potencijalno katastrofičan rizik — ali je i dalje upravljiv ako vlade, naučna zajednica, sektor javnog zdravlja i vodeće tehnološke kompanije uspostave koordinisane bezbednosne mere, navodi novi izveštaj RAND korporacije.
Zašto je to važno
Napredak veštačke inteligencije u biologiji širi krug aktera koji mogu da pristupe moćnim istraživačkim alatima — od pojedinaca i neformalnih grupa do državnih programa. To podiže rizik zloupotrebe, ali i otvara mogućnosti za brže otkrivanje lekova i terapija ako se uvedu odgovarajuće zaštite.
Šta RAND preporučuje
U izveštaju objavljenom ove nedelje RAND iznosi devet konkretnih strategija za ublažavanje rizika. Ključni pravci delovanja su:
- upravljanje pristupom informacijama i osetljivim biodatim,
- ometanje logistike i snabdevanja materijalima koji bi omogućili izradu oružja,
- proaktivno otkrivanje i nadzor potencijalne zloupotrebe, i
- odvraćanje zlonamernih aktera kroz politike, nadzor i međunarodnu saradnju.
Detaljnije i ključne dileme
Mnogi alati i skupovi podataka nastali u farmaciji i biotehnologiji su vlasnički i već zaštićeni, ali otvoreni biodataci iz akademije i istraživačkih centara predstavljaju veći bezbednosni izazov. RAND predlaže uvođenje slojevitih sistema pristupa: velike "biodata fabrike" i moonshot projekti mogu nastaviti da proizvode korisne informacije, dok se pristup najrizičnijim podacima ograničava na legitimne, verifikovane istraživače.
"Kapaciteti AI u biologiji napreduju veoma brzo, ali, srećom, većina opasnih pragova još nije pređena," rekao je vodeći autor izveštaja Steph Guerra. "Zbog prirode pretnje, potrebni su nam slojeviti sistemi međusobno pojačavajućih pristupa."
Primer: Anthropic i dizajn proteina
Ilustrativan primer je nedavno saopštenje kompanije Anthropic da je model Claude uspešno dizajnirao proteinske bindeve za 14 ciljeva — važan korak u procesu razvoja lekova. Anthropic je istakao potencijal i rizike: napredne sposobnosti dizajna proteina nisu dostupne u širokoj upotrebi njihovog najmoćnijeg modela zbog bezbednosnih razloga.
"Povećana autonomija istraživačkih sposobnosti AI modela će ubrzati razvoj terapija i naučna otkrića," naveli su iz Anthropic‑a, dodajući da "bez robusnih bezbednosnih mera, mogli bi omogućiti zlonamernim akterima opasna istraživanja, uključujući razvoj biološkog oružja."
Balans: napredak vs. bezbednost
Ograničavanje pristupa podacima nosi rizik usporavanja naučnog napretka. RAND predlaže rešenje kroz kombinaciju: masivne, otvorene inicijative za lečenje bolesti i zatvorenih, kontrolisanih slojeva pristupa za informacije koje su najrelevantnije za zloupotrebu. Paralelno su potrebne regulatorne i industrijske norme, obuke i sistemi verifikacije korisnika kako bi se smanjio rizik bez gušenja inovacija.
Zaključak
Izveštaj RAND‑a poziva na hitnu, široku i koordinisanu akciju: tehničke mere, politika, međunarodna saradnja i odgovorne prakse u industriji. Ako se sprovede slojeviti pristup koji istovremeno podržava naučna otkrića i ograničava pristup najrizičnijim resursima, rizik od AI‑poguranih bioloških napada može biti značajno umanjen.
Pomozite nam da budemo bolji.
