AI recepcionarka "Emma" u South Yorkshireu ne razume jorkširske akcente, zbog čega neki pacijenti prekidaju pozive i dolaze lično u ambulante. Healthwatch Rotherham upozorava da to otežava pristup zdravstvenim uslugama, dok QuantumLoopAI tvrdi da sistem razume 17 jezika i da neobrađene pozive prebacuje na osoblje. Slučaj podvlači potrebu za testiranjem AI sistema u lokalnim uslovima i za jasnim opcijama za prebacivanje na ljudsku podršku.
AI „Recepcionarka" 'Emma' Ne Razume Jorkširske Akcente — Pacijenti Prekidaju Pozive
A gloved hand is holding a shiny service bell while a bare finger is pressing down on the top of the bell. The bell is metallic and reflective, and the glove is white with a dark band around the wrist. The background is softly blurred.
Pacijenti u South Yorkshireu sve češće odustaju od zakazivanja kod lekara jer veštačka inteligencija koja odgovara na pozive — recepcionarka nazvana "Emma" — ne uspeva da razume njihove jorkširske akcente.
Problemi sa razumevanjem i posledice
Organ nadzora za zdravstvo i socijalne usluge, Healthwatch Rotherham, upozorio je da sistem ima poteškoća sa lokalnim varijantama govora. "Jedan od problema je što ovaj sistem ne može uvek da razume o čemu se pacijent raspituje zbog njihovog širokog jorkširskog akcenta", rekla je Kym Gleeson, menadžerka Healthwatch Rotherham, za BBC. Po njenim rečima, razlike u naglascima širom South Yorkshirea dodatno otežavaju komunikaciju.
"Nikada ga nisam mogao naterati da me razume... Na kraju sam samo prekinuo poziv i nisam pokušavao da zakažem termin," rekao je jedan razočarani pacijent Healthwatchu, kako prenosi The Guardian.
Zbog poteškoća s telefonskom uslugom neki pacijenti su, umesto da zakazuju pozivom, morali lično da dolaze u ambulante, što pogoršava pristup zdravstvenoj zaštiti posebno za starije i manje pokretne osobe.
Odgovor proizvođača i širi kontekst
Kompanija QuantumLoopAI, koja stoji iza Emme, navodi da je sistem obučen da razume 17 jezika pored engleskog i da je "treniran da prepozna širok spektar akcenata i dijalekata". Portparol je dodao da, "gde ona ne može da razume ili reši zahtev pacijenta, poziv se prebacuje na tim na recepciji" i da niko nije obavezan da nastavi razgovor sa Emmom.
Ipak, iskustva lokalnih pacijenata i izveštaji Healthwatcha ukazuju na to da u praksi ova opcija ne funkcioniše uvek glatko i da automatizovani sistemi mogu da pogoršaju barijere u pristupu uslugama.
Ovo nije izolovan slučaj: kako raste upotreba AI u zdravstvu — za prijem poziva, zakazivanje, trijažu ili automatsko vođenje kliničkih beleški — tako se povećava i rizik od grešaka, uključujući pogrešne transkripcije i "halucinacije" u koje su se prethodno zapetljali i neki bolnički sistemi.
Zaključak
Slučaj Emme ilustruje važnost temeljitog testiranja AI rešenja u realnim uslovima i u bliskoj saradnji s lokalnim zajednicama, posebno kada tehnologija utiče na pristup osnovnim zdravstvenim uslugama. Preciznije prilagođavanje akcentima, jasne opcije za prebacivanje na ljudsko osoblje i transparentnost u radu sistema ključni su da bi uvođenje ovakvih rešenja bilo bezbedno i pravedno.
Pomozite nam da budemo bolji.
