Tužba protiv OpenAI zbog medicinskog saveta ChatGPT‑a: Šta kažu istraživanja o dijagnostici AI

Scott Winters iz Floride podneo je tužbu protiv OpenAI i izvršnog direktora Sama Altmana, tvrdeći da su mu saveti ChatGPT‑a 2025. odložili traženje hitne pomoći i doprineli masivnoj plućnoj emboliji. Predmeti poput ovog i slične pravne parnice otvaraju šire pitanje: koliko su pouzdane AI dijagnostičke preporuke u stvarnom svetu?

Pozadina slučaja

Prema tužbi podnetoj u San Francisco County Superior Court (jul 2026), Winters je tokom 2025. više puta savetovao ChatGPT‑4o o vrtoglavici i promenama krvnog pritiska. Navodno mu je chatbot umanjivao ozbiljnost simptoma i savetovao da ostane "recliner‑bound" (vezan za fotelju), uz komentar da će mu trebati još "osam do deset" epizoda pre nego što postoji stvaran razlog za zabrinutost. Na dan incidenta, bot je, kako se navodi, odgovorio i upotrebio religijski ton: "God did not design your body to endlessly fail." ("Bog nije stvorio tvoje telo da neprekidno otkazuje"). Nekoliko sati kasnije Winters je doživeo masivnu plućnu emboliju; jedan od njegovih lekara povezao je stanje sa produženom imobilnošću.

Odgovor OpenAI i širi kontekst

OpenAI je izjavio da ChatGPT nije namenjen da zameni zdravstvenog radnika i podseća na upozorenja u uslovima korišćenja da se model ne koristi kao jedini izvor medicinskog saveta. Tim Wintersa zahteva finansijsku nadoknadu i privremenu zabranu rada ChatGPT Health dok se ne sprovede nezavisna bezbednosna procena. Slučaj podseća i na druge tužbe: u maju je par iz Teksasa tužio OpenAI nakon smrti svog sina usled predoziranja, tvrdeći da su bezbednosne barijere bile zaobilažene.

Šta istraživanja pokazuju

Ispitivanja AI u medicini daju pomešan, ali često ohrabrujući rezultat — ali većinom u kontrolisanim uslovima:

• JAMA Internal Medicine (2024): GPT‑4 je na 20 kliničkih slučajeva postigao medijanu ocenu 10/10 na skali r‑IDEA, naspram 9/10 za konsultante i 8/10 za specijalizante, iako je model bio skloniji nekim direktnim greškama.
• JAMA Network Open (2024): U testu na šest teških slučajeva, ChatGPT samostalno je postigao 90% tačnosti; lekari bez AI 74%, a lekari uz pomoć ChatGPT‑a 76% — kombinacija je bila malo bolja delom zato što su mnogi lekari odbacili ili preispitivali sugestije AI.
• Nature (2025): Google‑ov model AMIE je na 302 složena realna slučaja pronašao tačnu dijagnozu u 59% listi naspram 34% za nekontrolisane kliničare; klinčari koji su koristili AMIE dobili su bolje diferencijalne dijagnoze nego oni koji su koristili klasične reference.
• npj Digital Medicine (meta‑analiza): Pregled 50 studija ukazuje da AI često performira usporedivo ili bolje od lekara u standardizovanim zadacima dijagnoze i trijaže.

Ograničenja i rizici u realnoj upotrebi

Veći i realističniji testovi, kao i eksperimenti dizajnirani da otkriju greške, ukazuju na ozbiljne rizike:

• NEJM AI (script concordance): Benchmark od 750 pitanja pokazao je da vodeći modeli, uključujući OpenAI o3, dostižu oko 68% tačnosti — ispod nivoa starijih specijalizanata i konsultanta, što govori o slabijem rasuđivanju u uslovima neizvesnosti.
• Communications Medicine: Šest chatbota prihvatilo je i nadogradilo izmišljene informacije (fiktivni testovi, dijagnoze) u 50–83% slučajeva podrazumevane upotrebe; jedna prompt‑poruka koja upozorava na netačnost smanjila je te stope, ali ih nije eliminisala.
• Stanford benchmark: Test od 1.100 slučajeva pokazao je da direktna primena AI preporuka nosi rizik od teške štete u 24,6% slučajeva, pri čemu je preko 80% tih grešaka nastalo kao propusti (neprepoznavanje opasnog stanja), a ne izmišljotine.
• Anketa Sermo (2025): 94% više od 1.000 lekara izrazilo je zabrinutost zbog pacijenata koji se oslanjaju na AI za medicinske savete, najviše zbog rizika pogrešne dijagnoze ili odloženog lečenja.

Zaključak: problem dizajna i primene

Istraživanja pokazuju da su AI modeli vrlo sposobni u ograničenim, strukturisanim zadacima, ponekad nadmašujući prosečnog lekara. Međutim, njihova primena u otvorenim, nestrukturisanim razgovorima — bez pregleda, mera vitalnih parametara i često sa nepotpunim ili netačnim informacijama — dovodi do propusta koji mogu biti štetni. Slučaj Winters bolje se uklapa u scenarije gde modeli umiruju ili previdi opasnost nego u laboratorijske testove gde često briljiraju.

Ključna poruka: Dijagnostički potencijal AI postoji, ali sigurnost zavisi od načina implementacije, nadzora i jasnih ograničenja upotrebe u stvarnom svetu.

Ovaj tekst je adaptacija članka objavljenog na Forbes.com i sumira relevantne sudske događaje i naučne studije.