Kako AI Može Dovesti Do Pogrešnih Hapšenja I Osuđujućih Presuda: Lekcije Iz 2025.

U poslednjih nekoliko godina pojavili su se alarmantni primeri u kojima su sistemi veštačke inteligencije doveli do pogrešnih identifikacija i ozbiljnih posledica za građane. Dva ilustrativna slučaja iz 2025. — Taki Allen u Baltimoreu i Angela Lipps u Tenesiju — pokazuju kako tehničke greške u kombinaciji sa ljudskom verom u "objektivnost" tehnologije mogu prerasti u traumatične susrete sa pravom i policijom.

Šta se desilo?

Taki Allen (20. oktobar 2025.): 17-godišnji učenik je nakon treninga privremeno označen kao pretnja jer je nadzorna kamera sa podrškom AI pogrešno protumačila kesicu Doritosa u njegovom džepu kao pištolj. Policija je odmah reagovala, izvukla oružje i pritvorila ga dok su ga pretresali — pronašli su samo kesicu čipsa.

Angela Lipps (24. decembar 2025.): Baka iz Tenesija je provela pet meseci u pritvoru nakon što je softver za prepoznavanje lica pogrešno povezao njen identitet sa prevarama u saveznoj državi koju nikada nije posetila. Uhapšena je naoružana dok je čuvala unuke.

Kako AI zapravo radi — i zašto je to važno

Generativni modeli i sistemi za prepoznavanje ne "znaju" činjenice na ljudski način. Umesto traženja i potvrđivanja izvora, oni generišu najverovatniji odgovor na osnovu obrazaca iz podataka na kojima su trenirani. To znači da sistemi proizvode verovatnoće, a ne potvrđene dokaze.

Pragovi poverenja i njihove posledice

Mnogi sistemi dodeljuju skor poverenja i aktiviraju upozorenje tek kad skor pređe određeni prag koji postavljaju proizvođači ili agencije. Nizak prag znači više lažnih uzbuna; visok prag može propuštati stvarne pretnje. U praksi, pragovi su često sakriveni od javnosti, a odluka o njihovom postavljanju direktno utiče na to kad policija interveniše.

Problemi u praksi

Statistička procena postaje operativna odluka — i u tom prelazu nestaje neizvesnost koja ju je proizvela.

Prediktivni algoritmi koji koriste istorijske podatke i geografske obrasce mogu jasno ukazivati na "žarišta" kriminala, ali to ne znači da identifikuju prave počinioce. Čak i kad algoritam zvuči autoritativno, njegov rezultat ostaje statistička procena.

Pravni standardi i tehnološka nesigurnost

Pravni standardi (verovatno osnov za hapšenje, preovladavanje dokaza, izvan razumne sumnje) određuju koliko nesigurnosti društvo smatra prihvatljivom pre nego što se upotrebi pravna vlast. AI modeli, međutim, retko izričito prikazuju sopstvenu nesigurnost na način koji odgovara ovim standardima.

Preporuke

• Transparentnost: Javni registar upotrebe AI u policiji i otkrivanje pragova poverenja.
• Nezavisne provere: Redovni auditi i testiranja na pristrasnost i stopu lažnih pozitivnih/negativnih rezultata.
• Ljudska kontrola: Jasna pravila da AI služi samo kao pomoćna informacija, ne kao sama osnova za hapšenje ili krivično gonjenje.
• Obuka i odgovornost: Obavezna obuka policajaca za tumačenje izveštaja AI sistema i mehanizmi odgovornosti za greške u praksi.
• Prikaz nesigurnosti: Dizajn sistema koji eksplicitno prikazuju procenat pouzdanosti i granice primene rezultata.

Zaključak

AI može poboljšati rad policije i javnih službi, ali bez transparentnih pravila, nadzora i obuke rizikujemo da statističke procene postanu sudbine ljudi. Tehnologija mora jasno pokazivati svoju nesigurnost, a odluke koje utiču na ljudske slobode moraju ostati pod ljudskom, zakonitom i etičkom kontrolom.

Autori originalnog teksta: Maria Lungu i Steven L. Johnson, Digital Technology for Democracy Lab, University of Virginia. Tekst je prilagođen i preveden za srpsko govorno područje.