Od Koga AI Uči Da Gleda Svet? Zašto Nam Treba „Veštački Integritet“

Šta veštačkoj inteligenciji nedostaje — i šta većina benchmarka gotovo ne formalizuje niti adekvatno kažnjava — jeste integritet. Dok mnogi jure za većom „inteligencijom“ unutar AI, istinski izazov našeg doba je trka za većim Veštačkim Integritetom — ne samo za većom sposobnošću računanja.

Tri dimenzije Veštačkog Integriteta

Predlažem tri ključne dimenzije koje čine ono što nazivam Veštačkim Integritetom: etički, moralni i društveni integritet. Sve tri su potrebne da bi sistemi bili stvarno odgovorni i ljudski prihvatljivi.

Etički integritet (šta AI treba da teži)

Etički integritet razmatra ciljeve koje AI optimizuje — da li su ti ciljevi usklađeni sa ljudskim blagostanjem, osnovnim pravima, dugoročnom otpornosti društva i sprečavanjem štetnih eksternalija koje proizlaze iz kratkoročne efikasnosti ili incentivâ za angažman. Primer: sistem preporuka koji jedino maksimalizuje pažnju može povećati metrike angažmana, ali istovremeno stimulisati zavisnost, polarizaciju i dezinformacije. Teleološki je efikasan, ali etički pogrešan.

Moralni integritet (kako AI prepoznaje ljude)

Moralni integritet se tiče načina na koji sistemi reprezentuju ljude — da li čuvaju ljudsko dostojanstvo, složenost konteksta i agenciju ili reduciraju osobe na profile, verovatnoće i skoreve ponašanja. U sistemu za zapošljavanje, na primer, kandidati se mogu svesti na produktivnost ili ključne reči, dok se zanemaruju lične priče, prevaziđene teškoće i moralne vrline.

Društveni integritet (šta AI legitimizuje kao znanje)

Društveni integritet ispituje kako sistemi određuju šta je kredibilno znanje i koja gledišta dobijaju epistemsku težinu. Generativni AI koji favorizuje statistički dominantne stavove može nevidljiviti manjinske perspektive i novije istraživačke rezultate, što pomera javno razumevanje od otvorene deliberacije ka algoritamskoj verovatnoći.

Kako dimenzije kolabiraju — primer KYC verifikacije

Slučaj žena koje menjaju prezime nakon braka, pa nailaze na blokade računa i zamrzavanje sredstava u sistemima poput PayPal-a, ilustrativan je jer simultano otkriva pad sva tri integriteta.

Račun blokiran. Sredstva zamrznuta. Beskrajne verifikacije. Automatska sumnja — sve zbog administrativne varijacije u prezimenu.

Ovde se ne radi samo o "bagu". Sistem je optimizovan za sprečavanje prevara, proceduralnu konzistentnost i skalabilnost — legitimni ciljevi — ali su ti ciljevi suviše uski. Etički: sistem eksternalizuje psihološki stres i troškove dostojanstva. Moralno: identitet se tretira kao fiksna administrativna korespondencija, ne kao promenljiva životna realnost. Društveno: algoritamska validacija dobija veću težinu od ljudske prosudbe i institucionalnog razumevanja.

Širi rizici: prilagođavanje ljudi mašinama

Opasnost nije samo pogrešno prepoznavanje ili povremene greške — takve greške su postojale i ranije. Dublji problem je civilizacijski: društva mogu početi da se reorganizuju prema tome šta mašine lako procesuiraju. Kompleksnost postaje nepoželjna, višeznačnost sumnjiva, a kontekstualna ljudskost operativno trenje. To je suptilan, ali snažan efekat kolapsa Veštačkog Integriteta.

Šta treba da promenimo?

Potrebna je promena u dizajnu: ciljevi optimizacije moraju da uključuju ljudsko dostojanstvo i pluralitet iskustava; reprezentacije moraju poštovati kontekst i promenljivost života; a legitimitet znanja mora biti transparentan i inkluzivan. U praksi to znači širi set metrika, ljudsku nadogradnju odluka, audit algoritama po rodnim i kulturnim linijama, i otvorenije standarde dokazivanja.

Zaključak. Veštačka inteligencija nije neutralan alat — ona već modeluje svetone kako su je razvili ljudi koji je stvaraju. Zato pitanje nije samo „koliko je AI inteligentna“, već i „od koga i na osnovu čega AI uči svoj pogled na svet?”.

Image credit: Hvala Sabrini Gabrielli za ilustraciju, www.mynameisbri.com, Instagram: @bribbry

Ovaj članak je originalno objavljen na Forbes.com