Greške AI Mogu Biti Neizbežne — Šta To Znači Za Zdravstvo i Bezbednost Pacijenata

Predloženi zakon u SAD iz početka 2025. predviđa mogućnost da sistemi zasnovani na veštačkoj inteligenciji autonomno prepisuju lekove. Ta ideja je pokrenula široku debatu o bezbednosti, odgovornosti i granicama same tehnologije.

Greške su često posledica prirode podataka

U poslednjem desetleću brz napredak AI izazvao je veliki entuzijazam i smela obećanja, iako korisnici često nailaze na greške — od pogrešnog prepoznavanja govora do "halucinacija" u čatbotovima. Ljudi često tolerišu ove propuste jer tehnologija ubrzava svakodnevne zadatke. Međutim, kada su u pitanju kritične oblasti kao što je zdravstvo, cena greške može biti životno važna.

Moje istraživanje kompleksnih sistema ukazuje da određena svojstva podataka i međudejstva komponenti sistema mogu postaviti donju granicu grešaka — odnosno, neke greške su prosto neizbežne. To nije samo tehnički izazov već i epistemološko pitanje: kako klasifikovati podatke koji se međusobno preklapaju?

Primer iz prakse: predvidljivost uspeha studenata

U studiji objavljenoj u julu 2025. koristili smo podatke sa više od pola miliona studenata Universidad Nacional Autónoma de México (2008–2020) da bismo pokušali da predvidimo ko će završiti studije na vreme. Testirali smo poznate algoritme i razvili sopstveni — najbolji model je dostigao oko 80% tačnosti, što znači da je najmanje jedan od pet studenata pogrešno klasifikovan.

Razlog nije nužno manjak podataka već preklapanje karakteristika: studenti koji su identični po ocenama, starosti, polu i socioekonomskom statusu ponekad imaju različite ishode zbog nepredvidivih događaja (nezaposlenost, bolest, trudnoća i sl.). Povećanje broja primera često daje opadajuće prinose — za svaki plus od 1% tačnosti može biti potrebno stostruko više podataka.

Zašto je to važno za medicinu

Zdravstveni podaci često sadrže slične vrste preklapanja: različiti uzročnici mogu davati iste simptome, dok isti poremećaj može imati različitu prezentaciju kod različitih pacijenata. To znači da i najsofisticiraniji AI modeli mogu donositi greške — ponekad bez jasnog signala da su pogrešili.

"Ako se od mašine očekuje da bude nepogrešiva, ona ne može biti i inteligentna." — Alan Turing

Ovaj paradoks između učenja (što podrazumeva grešku) i očekivanja nepogrešivosti ključan je za razumevanje rizika kada se AI koristi za dijagnostiku ili prepisivanje terapije.

Pravni, etički i praktični rizici

Ako AI pogrešno dijagnostikuje pacijenta ili prepiše neodgovarajući lek, odgovornost je pravno nejasna: da li su krivi proizvođači lekova, developeri softvera, zdravstvene ustanove, apoteke ili osiguravajuća društva? Ova "zona sumraka" zahteva jasne regulative pre nego što se AI obuči za potpuno autonomno prepisivanje lekova.

Preporučeni pristupi

U mnogim slučajevima najbolje rešenje je hibridni model — tzv. "centaur" pristup — gde AI radi kao pomoćnik lekaru, a konačnu odluku donosi čovek. Takav pristup kombinuje brzinu i obim analize podataka koje omogućava AI sa kliničkim iskustvom i etičkom procenom lekara. U oblastima kao što je precizna medicina, već postoje primeri upotrebe AI kao podrške pri izboru terapije, ali uz obavezan nadzor stručnjaka.

Zaključak

Tehnološki napredak u AI donosi ogroman potencijal, ali i realne granice. Zbog inherentnih svojstava podataka i složenosti sistema, potpuno uklanjanje grešaka možda nikada neće biti moguće. Kada je u pitanju ljudsko zdravlje, zdrav razum i princip predostrožnosti nalažu da ljudski nadzor ostane obavezan — barem dok regulatorni, pravni i tehnološki okvir ne postanu jasniji i sigurniji.

Ovaj članak je zasnovan na originalnoj analizi objavljenoj u The Conversation i na istraživanju autora iz jula 2025.