Sažetak: Istraživanja pokazuju da neke greške u AI proizlaze iz same strukture podataka i kompleksnosti sistema, pa ih je možda nemoguće potpuno eliminisati. Primer studije na više od pola miliona studenata pokazuje da su najbolji modeli imali oko 80% tačnosti. Zbog rizika i pravne neizvesnosti u zdravstvu, autor preporučuje oprez i primenu hibridnih (ljudsko–mašinskih) rešenja uz obavezan ljudski nadzor.
Zašto greške AI Mogu Biti Neizbežne — Šta To Znači Za Zdravstvo
Federal legislation introduced in early 2025 proposed allowing AI to prescribe medication.Wladimir Bulgar/Science Photo Library via Getty Images
Uspon veštačke inteligencije (AI) u poslednjoj deceniji donosi velike koristi, ali i česte greške koje korisnici često tolerišu zbog dobitaka u efikasnosti. Ipak, kada se radi o zdravlju ljudi — gde greška može imati ozbiljne posledice — pitanja o pouzdanosti i odgovornosti postaju presudna.
Zašto neke greške možda ne možemo potpuno eliminisati
Moje istraživanje kompleksnih sistema pokazuje da određena svojstva podataka i međudejstva komponenti sistema postavljaju granice onome što modeli mogu postići. U nekim slučajevima postoji minimalna, nevezana za model, stopa grešaka zato što se kategorije u podacima preklapaju.
„Ako se od mašine očekuje da bude nepogrešiva, ne može istovremeno biti i inteligentna.“ — Alan Turing
Ilustrativni primeri
Jednostavan primer su podaci o psima koji sadrže samo starost, težinu i visinu: čivavu i nemačkog doga model će lako razlikovati, ali dobermana i alaska malamuta može pobrkati jer pojedinačni parametri mogu biti slični. Slično, u istraživanju koje smo sproveli sa podacima više od pola miliona studenata UNAM-a (2008–2020), najbolji algoritmi postigli su oko 80% tačnosti — što znači da je najmanje svaki peti student bio pogrešno klasifikovan.
Povećanje količine podataka često donosi opadajuće prinose: za dodatni procenat tačnosti može biti potrebno i stostruko više podataka. Uz to, nepredvidivi životni događaji (nezaposlenost, bolest, trudnoća) mogu promeniti ishod — čak i ako bismo imali „beskonačno“ mnogo početnih zapisa.
Features of different dog breeds may overlap, making it hard for some AI models to differentiate them.MirasWonderland/iStock via Getty Images Plus
Kompleksnost i granice predviđanja
Kompleksni sistemi su isprepleteni — ponašanje proizilazi iz interakcija između komponenti, a ne iz samih delova. Kao što je teško precizno predvideti kretanje automobila u stvarnom saobraćaju zbog stalnih interakcija, tako je teško potpuno eliminisati greške u kliničkim predviđanjima.
Implikacije za primenu AI u zdravstvu
Zdravstveni podaci često sadrže preklapanja simptoma i varijacije u prezentaciji bolesti, što ograničava mogućnost savršene klasifikacije. Iako ljudi takođe prave greške, kada AI pogreši u dijagnozi ili propisivanju leka, odgovornost i pravna odgovornost ostaju nejasni — da li su odgovorni proizvođači softvera, farmaceutske kompanije, lekari ili apoteke?
Preporuka autora: Zdrav razum i princip predostrožnosti sugerišu da je prerano dopustiti potpuno autonomno propisivanje lekova bez ljudskog nadzora. Hibridni pristupi („centauri“) — kombinacija ljudi i mašina — često daju bolje rezultate nego svaka komponenta ponaosob i predstavljaju najrealističniji put napred, naročito u preciznoj medicini.
Zaključak
Greške u AI mogu biti delom «ugrađene» u samu prirodu podataka i kompleksnost sistema. To ne znači da ne treba koristiti AI u zdravstvu — naprotiv: AI može pomoći u poboljšanju odluka i personalizaciji lečenja — ali dokle god postoje nerazjašnjene granice tačnosti i pravne posledice grešaka, ljudski nadzor i transparentnost moraju ostati standard.
Tekst je adaptacija članka objavljenog u The Conversation. Autor: Carlos Gershenson, Binghamton University, State University of New York. Autor navodi da nema relevantne finansijske veze ili interesnih veza u vezi sa temom.
Pomozite nam da budemo bolji.
