Vodeći eksperti iz oblasti AI i biomedicine potpisali su pismo u kome upozoravaju da AI može smanjiti barijere za stvaranje biološkog oružja. Potpisnici traže obavezni nadzor narudžbina sintetičke DNK i RNK, proveru "sekvenci od zabrinutosti" i verifikaciju legitimnosti kupaca. Ideja je da se beleženjem podataka olakšaju biobezbednosne istrage, dok se istovremeno poziva na međunarodnu saradnju i dalja istraživanja rizika.
Lideri AI I Biomedicine Upozoravaju: AI Može Olakšati Izradu Biološkog Oružja — Poziv Na Strožu Kontrolu Sintetičke DNK
Biohazard DNA - Credit: Oliver Bunic/Bloomberg via Getty Images
Vodeći stručnjaci iz oblasti veštačke inteligencije i životnih nauka potpisali su otvoreno pismo upozorenja u kome navode da brz napredak AI tehnologija može smanjiti barijere koje su do sada otežavale zloupotrebu biotehnologija. Pismo ističe da primena AI u biohemiji donosi i velike koristi — poput ubrzavanja razvoja vakcina — ali i potencijalno ozbiljne rizike za biobezbednost.
Ko su potpisnici
Među potpisnicima su izvršni direktori velikih kompanija i vodeći akademici: Sam Altman (OpenAI), Dario Amodei (Anthropic) i Demis Hassabis (Google DeepMind), kao i profesori sa institucija kao što su MIT, Stanford i Univerzitet Kalifornije. Pismo su potpisala i dva bivša sekretara Vojske i Mornarice SAD.
Šta pismo predlaže
Autori pisma pozivaju regulatore da uvedu obavezni nadzor nad narudžbinama sintetičkih nukleinskih kiselina (DNK i RNK) i opreme za njihovu sintezu. Konkretno, predlažu da:
- proizvođači sintetičke DNK i proizvođači mašina za sintezu proveravaju upite na prisustvo "sekvenci od zabrinutosti";
- pre isporuke verifikuju legitimnost kupaca i namenu narudžbine;
- beleže narudžbine i podatke o sekvencama kako bi se, u slučaju incidenta, moglo pratiti poreklo i podržati biobezbednosne istrage.
Zašto je zabrinutost opravdana
Pismo poziva na mere jer tehnologije veštačke inteligencije omogućavaju automatizovano projektovanje i optimizaciju bioloških sekvenci, što smanjuje neophodno stručno znanje i resurse za izvođenje složenih eksperimenata. Autori navode i istraživanja koja pokazuju da AI sistemi u nekim zadacima mogu nadmašiti stručnjake u određenim tehničkim pitanjima, ali istovremeno priznaju da je dokazni okvir još uvek mešovit i da je potrebno više istraživanja kako bi se tačno ocenili aktuelni rizici.
Legislativni kontekst
U SAD su već podneti predlozi zakona koji bi regulisali sintezu sintetičkih nukleinskih kiselina. Prema izveštajima, postoje dva predloga koja su u Kongresu: predlog u Predstavničkom domu koji još nije doveden na glasanje i predlog u Senatu koji je ostao u odboru od januara.
Šta ovo znači za širu javnost i Srbiju
Iako su predlozi fokusirani na američku regulativu i industriju, implikacije su globalne: kompanije i laboratorije širom sveta koriste sintetičku DNK i AI alate, pa međunarodni standardi i saradnja postaju važni za sprečavanje zloupotrebe. Stručnjaci napominju da transparentnost, međunarodna saradnja i usklađena pravila mogu pomoći da se ostvare koristi AI u biomedicini, a istovremeno smanje rizici.
Zaključak: Otvoreno pismo naglašava hitnost uspostavljanja jasnih procedura za nadzor i praćenje sinteze nukleinskih kiselina, uz priznavanje da AI donosi i velike koristi u zdravstvu. Poziv na regulaciju ima za cilj da ublaži potencijalne zloupotrebe bez gušenja naučnog napretka.
Pomozite nam da budemo bolji.
