Zašto nam treba Povelja o pravima za veštačku inteligenciju — pre nego što bude prekasno

Kao i milioni ljudi širom sveta, veći deo prošle godine proveo sam u nekoj vrsti egzistencijalne krize zbog sveprisutne veštačke inteligencije. Kao dugogodišnji radnik u digitalnim medijima, mislio sam da razumem kako se transformacione tehnologije pojavljuju, ubrzavaju i ukorenjuju u svakodnevni život. Ali dolazak AI promenio je to osećanje.

Isprva je delovalo čudesno: neumorni asistent koji pomaže da se protumače medicinska istraživanja, izbrusi pisanje, vodi složeni projekti u ruralnoj Indiji — i čak podstiče ideje za umetnički rad. Bilo je to kao da imate briljantnog pripravnika koji nikad ne spava.

Međutim, dok sam negovao suprugu kroz ozbiljan medicinski put, počeo sam da primećujem kako algoritamski sistemi tiho oblikuju koje informacije isplivavaju prve, koje opcije lečenja su istaknute i koja pitanja ostaju nepostavljena. Odluke su se donosile bez jasnih objašnjenja i bez odgovornosti — i tada mi AI više nije izgledao samo kao alat.

Zašto je ovo važnije nego što izgleda

Ulazimo u svet u kome sistemi sve češće donose odluke umesto nas. Prednosti su velike, ali su i rizici realni: informisanje javnosti, pristup poslovnim i finansijskim prilikama, odluke u zdravstvu, pravdi i obrazovanju mogu biti pod snažnim uticajem algoritama koji se razvijaju brže nego što ih zakon i javnost razumeju.

Ključno pitanje nije hoće li AI promeniti svet — to se već događa. Pitanje je hoćemo li mi usmeravati tu promenu ili će ona biti odlučena umesto nas.

Četiri osnovna principa koje predlažem

Svakodnevna pravičnost zahteva jasna pravila. Svaki ozbiljan okvir za AI treba da obuhvati najmanje ove četiri tačke:

1. Istina

Sistemi koji oblikuju ono što vidimo i čujemo ne smeju svesno iskrivljavati stvarnost bez odgovornosti. Manipulacija informacijama ili skriveno filtriranje sadržaja pod bacilom optimizacije ne sme da ostane bez posledica.

2. Pravednost

Kreatori i autori čiji rad služi za treniranje modela treba da dobiju naknadu ili barem priznanje. Radnici koji gube poslove zbog automatizacije moraju imati smislenu podršku za tranziciju. Dobitci od AI ne smeju biti monopol malog broja već ravnomerno raspodeljeni.

3. Transparentnost

Ljudi imaju pravo da znaju kada AI utiče na odluke o njihovom životu i da mogu da ospore odluke koje su pogrešne ili diskriminišuće. Jasni mehanizmi za objašnjenje i žalbu su nužni.

4. Ljudske mere zaštite

Za visoko rizične odluke (zdravstvo, pravda, finansije, obrazovanje) mora postojati opcija ljudskog nadzora i konačne odluke. Deca i ranjive grupe zahtevaju dodatne zaštitne mere.

Gde smo sada i šta treba promeniti

Vlade i međunarodne organizacije već objavljuju principe i smernice, a regulatori pokušavaju da sustignu razvoj. Ipak, mnoga rešenja izbegavaju najteža pitanja — odgovornost, ekonomska pravda i pitanje ko snosi štetu kad AI pogreši. Novi koncentrisani centri moći i rastući korporativni profiti dodatno ubrzavaju potrebu za jasnim pravilima.

Postoji nada: budućnost AI nije zapisana u kodu. Ona će biti oblikovana pravima koja zahtevamo, pravilima koje uspostavimo i vrednostima koje odbijamo da prepustimo tržištu.

Detaljnije te teme obrađujem u svojoj knjizi Before AI Decides, koja nudi praktične smernice kako sačuvati ljudsku odgovornost u sistemima koji sve više donose odluke umesto nas. Sada je vreme da povučemo jasne linije — pre nego što bude prekasno.

Payson R. Stevens je komunikator nauke, autor i umetnik čiji rad pokriva tehnologiju, javnu komunikaciju i human-centered dizajn više od pet decenija. Dobio je U.S. Presidential Design Award za pionirski rad u digitalnim naučnim medijima.

Izvor: Katie Couric Media