Istraživači sa Michigan State University pokazuju da AI može davati sigurne, ali pogrešne odgovore kada se suoči sa podacima koji se razlikuju od onih na kojima je treniran. Testovi u programu Avida pokazali su da oko 15 sistematskih promena može navesti model da pogrešno identifikuje ne-živo kao živo. Ovo predstavlja rizik za svemirske misije koje se oslanjaju na analizu masenih spektara i udaljena posmatranja. Tim planira da ponovi eksperimente sa podacima iz stvarnog sveta i predstavi rezultate na konferenciji 2026.
Možemo Li Verovati AI U Potrazi Za Vanzemaljskim Životom? Naučnici Upozoravaju
An artist's impression of the Habitable Worlds Observatory that will search spectroscopically for biosignatures on exoplanets. . | Credit: NASA's Goddard Space Flight Center Conceptual Image Lab.
Veštačka inteligencija može lako pogrešno klasifikovati ne-žive uzorke kao žive kada se suoči sa podacima koji odstupaju od onoga na čemu je trenirana, upozoravaju istraživači sa Michigan State University. Christoph Adami i njegov student Ankit Gupta testirali su AI koristeći simulirane organizme u programu Avida i pokazali da je sistem veoma ranjiv na "out-of-distribution" primere.
Kako je eksperiment tekao
Adami, računski biolog koji definiše život kao sposobnost kodiranja informacija i njihove replikacije, razvijao je program Avida još od 1993. godine. Avida pokreće digitalne organizme — programske sekvence koje se repliciraju i takmiče za CPU vreme, što omogućava stvaranje velikih, kontrolisanih skupova podataka za proučavanje evolucije.
Tokom tri meseca rada na oko 1.000 paralelnih mašina, tim je zatražio od AI da razlikuje koje sekvence u Avidi pokazuju osobine života. Zatim su sistematski menjali pojedine „molekularne“ sekvence — korak po korak — da bi pokušali da zavaraju model i pratili kako raste njegova sigurnost u klasifikaciju.
Glavni nalazi
„U roku od otprilike 15 promena možemo navesti AI da bude potpuno siguran da vidi život — a u nijednom od tih slučajeva taj uzorak zapravo nije bio život,“ rekao je Adami.
Bez obzira od koje sekvence su počeli, AI je bio podložan obmani. Ovo pokazuje da modeli koji su dobro performirali na poznatim podacima mogu davati potpuno netačne i precizno formulirane odgovore kada naiđu na nepoznate, out-of-distribution primere.
Digital organisms replicating and mutating over time in the Avida program. Each colored dot represents an organism of a particular genotype, and each time they mutate into a different type, they change color. | Credit: Adami et al/Michigan State University
Zašto je to važno za svemirske misije
Mnoge buduće misije koje traže život neće moći da „vide“ mikroorganizme direktno, već će se oslanjati na instrumente kao što su maseni spektrometri i udaljena posmatranja atmosfere i spektara egzoplaneta. To uključuje potragu za biosignaturama u atmosferi Venere, ispod ledene površine Europe, ili analizom spektra egzoplaneta pomoću planiranog Habitable Worlds Observatory u 2040-im.
Ako se AI trenira na uzorcima sa Zemlje, postoji realna opasnost da će na osnovu sličnosti ili slučajnih obrazaca dati lažno pozitivan rezultat kada analizira potpuno nepoznatu, vanzemaljsku hemiju.
Šta dalje?
Adami i Gupta planiraju da pređu iz digitalnih simulacija na realne laboratorijske podatke kako bi proverili koliko se problem zadržava van virtuelnog okruženja. Autori i drugi naučnici takođe ukazuju na moguće mere ublažavanja rizika: bolja detekcija "out-of-distribution" uzoraka, uključivanje ljudske provere (human-in-the-loop), korišćenje šireg spektra simulacija prilikom treniranja i obavezne nezavisne verifikacije pre nego što se proglasi otkriće života.
Adami i Gupta će rezultate predstaviti u avgustu na konferenciji Conference On Artificial Life 2026 u Waterlou, Kanada.
Pomozite nam da budemo bolji.
