Konvergencija bioloških rizika: Kako AI, biotehnologija i slabi javni zdravstveni sistemi povećavaju opasnost od ljudski stvorenih patogena

Napredak u veštačkoj inteligenciji i biotehnologiji, rast rizičnih istraživanja, zaoštravanje geopolitičkih tenzija i oslabljena javnozdravstvena mreža u SAD zajedno stvaraju okolnosti u kojima bi jednog dana mogao da nastane smrtonosan, ljudski stvoren patogen — slučajno ili namerno — za koji možda ne bismo bili spremni.

Zašto je to važno

Isti prodori koji otvaraju veliki potencijal za medicinska i naučna otkrića takođe povećavaju rizik od katastrofalnih laboratorijskih nezgoda. Stručnjaci se ne slažu oko obima tog rizika, ali rast kapaciteta i dostupnosti alata menja verovatnoće.

Šira slika

Postoje različiti scenariji zabrinutosti: od državnih programa do delovanja loših aktera koji bi iskoristili AI-podržano oružje za nanošenje masovnih žrtava. Najveće kompanije iz AI sektora same su ukazale na ovakav rizik i pozvale na strože zaštitne mere.

„Scenarij koji me najviše brine nije da će neka država odlučiti da upotrebi biološko oružje. Najviše se bojim slučajnog oslobađanja iz nekog namernog programa,“ rekao je Ashish Jha, bivši koordinator administracije za odgovor na COVID.

Napredak u nauci i broj laboratorija koji rade na visokorizičnim pitanjima rastu — što po mišljenju nekih analitičara podiže verovatnoću greške ili curenja. Dodatno, alati bazirani na AI mogu omogućiti ljudima sa ograničenim iskustvom da brže napreduju u eksperimentima, povećavajući potencijalnu izloženost riziku.

Aktuelni razvoj

Poslednje vesti o istraživanju sa Stanforda, gde je AI iskorišćen za dizajn novih sintetičkih virusa koji mogu da inficiraju i ubiju bakteriju E. coli, pojačale su zabrinutost javnosti i stručnjaka. Iako takav rezultat ima potencijalne medicinske primene, on je i signal da slične metode mogu biti zloupotrebljene.

Istovremeno, izveštaji pokazuju da su neki chatboti bili manipulativno korišćeni kako bi pružali uputstva za pravljenje opasnih bioloških sredstava — što ističe potrebu za jačim kontrolama i bezbednosnim merama u razvoju i distribuciji AI alata.

Provera realnosti

Biologija potpomognuta AI i dalje zahteva značajan fizički, laboratorijski rad: mnogi koraci ne mogu se automatizovati samo softverom. Kao što ističe David Manheim iz Udruženja za Dugoročnu Egzistenciju i Otpornost, postoje „delovi koji zahtevaju fizičku proveru“ i nadanje da laboratorije neće dozvoliti AI da samovoljno izvršava nerazumljive procedure.

Stvaranje virusa koji napada bakterije daleko je složenije i tehnički različito od stvaranja virusa koji cilja ljude — i za to su potrebna dodatna znanja, oprema i etički nadzor.

Gde se nalazimo

Godšnji izveštaj američke obaveštajne zajednice navodi da zemlje poput Kine, Severne Koreje i Rusije verovatno poseduju znanja i kapacitete za proizvodnju i upotrebu tradicionalnih bioloških agensa. Dodatno, polja poput nanotehnologije i uređivanja genoma mogu dovesti do novih bioloških pretnji ili povećati rizik od nenamernih događaja bezbednosti.

Druga strana

AI nije samo rizik — on može biti i alat za unapređenje biološke odbrane: za rano otkrivanje, bržu dijagnostiku i brži razvoj protivmera. Primer je program Google DeepMind-a za bioresilijenciju, koji ima za cilj da spreči, otkrije i odgovori na biološke pretnje.

U svom odgovoru, HHS navodi da su SAD „opremljene da odgovore na nove pretnje javnom zdravlju“, pozivajući se na nedavne intervencije, uključujući odgovore na izbijanje hantavirusa na kruzeru i slučajeve ebole u Africi.

Zaključak i šta dalje

Rizik se ne sme podcenjivati, ali ni precenjivati bez dokaza. Potrebni su uravnoteženi pristupi: jačanje biosigurnosnih i bioetičkih standarda, međunarodna saradnja i inspekcije, uvođenje tehničkih i regulatornih „guardrails“ za AI u biologiji i investiranje u javno zdravstvo kako bi društvo bilo otpornije na potencijalne incidente — slučajne ili namerne.