MHRA: Potrebni novi zakoni za AI u zdravstvu — 44 preporuke za bezbedniju primenu u NHS-u

Agencija za lekove i medicinska pomagala (MHRA) u Velikoj Britaniji objavila je 44 preporuke sa ciljem ažuriranja regulative za proizvode zasnovane na veštačkoj inteligenciji koji se koriste u NHS-u i drugim zdravstvenim ustanovama.

Izveštaj, sastavljen od strane nezavisne komisije uz učešće više od 12.000 pacijenata, kliničara i stručnjaka, ukazuje na to da će AI uskoro postati rutinski deo pružanja zdravstvene zaštite — ali da su potrebna nova pravila da bi se očuvalo poverenje i bezbednost pacijenata.

Lawrence Tallon, direktor MHRA: „Očekujem da će pacijenti sve više doživljavati AI kao sastavni deo uobičajene zdravstvene zaštite u NHS-u. To mora da se dešava na način koji održava poverenje i sigurnost.“

Ključne preporuke

• Kontinuirano praćenje AI proizvoda i mogućnost povlačenja regulatorne dozvole ako proizvodi otkažu ili postanu manje efikasni tokom vremena.
• Pravo pacijenata da budu obavešteni da li je AI uključen u njihovu negu i jednostavan pristup informacijama o korišćenim proizvodima.
• Mogućnost sankcionisanja razvojnih timova ukoliko proizvod ne ispunjava očekivane standarde bezbednosti i efikasnosti.
• Uvođenje sistema sličnog "L pločicama" za AI — omogućavanje ograničenih testiranja novih modela pod strožim nadzorom kliničara.

Tallon je objasnio da postojeći regulatorni okvir potiče iz vremena kada su u fokusu bili ortopedske proteze, stetoskopi i flasteri, i da nije jednostavno primenljiv na modele koji se nastavljaju da uče i menjaju nakon sticanja dozvole.

„Za razliku od većine medicinskih proizvoda, ovi sistemi nastavljaju da se menjaju nakon autorizacije — kako im stižu novi podaci, oni uče, prilagođavaju se i mogu da 'driftuju'.“

Praktične posledice i zabrinutosti

U Velikoj Britaniji AI "sajbri" (note-takeri zasnovani na velikim jezičkim modelima) navodno se koriste u oko 40% ordinacija opšte prakse da bi beležili konsultacije i generisali izveštaje. Studija Univerziteta u Edinburgu pokazala je da bi pacijenti mogli manje da otkrivaju osetljive informacije (npr. zloupotrebu supstanci) ako znaju da razgovor obrađuje AI.

Profesorica Henrietta Hughes, članica komisije i praktičar opšte prakse, kaže da mnogi pacijenti prihvataju upotrebu AI, dok neki biraju da se isključe: „Neki kažu: 'Ne želim da razgovaram sa robotom' — i to je u redu.“ Istakla je i da lekari imaju odgovornost da proveravaju i ispravljaju greške u automatski generisanim beleškama.

Prof. Alastair Denniston je ocenio da AI predstavlja „izuzetnu priliku“ koja bi mogla biti poređena sa velikim preokretima u medicini, dok su pojedini lideri industrije izrazili optimizam o potencijalu tehnologije za napredak u lečenju teških bolesti.

Međutim, izveštaj takođe upozorava na rizike: pristrasnost u podacima za obuku, mogućnost netačnih ili štetnih preporuka od chatbota i globalni izazov usklađivanja regulatornih okvira. MHRA napominje da još ne postoji jedinstveni međunarodni model koji je u potpunosti rešio ova pitanja.

Zaključak: Predložene mere ciljaju da omoguće bezbednu, transparentnu i odgovornu primenu AI u zdravstvu — od informisanja pacijenata i kažnjavanja nesavesnih proizvođača, do mehanizama praćenja i pilot-testiranja novih modela u kliničkom okruženju.