Trias Algorithmica: Koja pravila vladaju kodom — Zašto treba podela algoritamske moći

Sve je više glasova širom sveta koji prepoznaju da je naša stvarnost — u velikoj meri — posredovana algoritmima. To znači da algoritamski sistemi danas predstavljaju novu vrstu moći: moć koja oblikuje odluke, ponašanja i institucije.

Tri zahtevna poziva za kontrolu

U martu 2023. Future of Life Institute i hiljade potpisnika, među kojima su Yoshua Bengio, Stuart Russell, Yuval Noah Harari i Steve Wozniak, pozvali su na šestomesečnu obustavu treniranja AI sistema sposobnijih od GPT‑4 — zahtev za moć da se zaustavi. Kasnije, Daron Acemoglu i Simon Johnson istakli su potrebu za AI koja nadopunjuje ljude, zahtevajući moć za postavljanje ciljeva. U julu 2026. Erik Brynjolfsson, Ajay Agrawal i saradnici pokrenuli su inicijativu „We Must Act Now“, tražeći podsticaje, zaštitne mehanizme i institucije — moć institucionalnog odgovora. Bill Gates je upozorio na nedostatak društvenog plana i predložio kategorije za „Human Reserved“ poslove, poreske prilagodbe i državnu pripremu — moć postavljanja granica.

Problem pretpostavljene legitimnosti

Ipak, često podrazumevamo da je razvoj svake napredne AI tehnologije društveno i moralno prihvatljiv cilj — pre nego što uopšte raspravimo da li neke vrste razvoja treba normativno isključiti, kao što smo to uradili za ljudsko kloniranje ili biološko oružje.

Dozvola Pre Strukturiranja

U mnogim sektorima — bankarstvu, prehrambenoj industriji, građevinarstvu, farmaciji, vazduhoplovstvu i nuklearnoj industriji — postoje jasni preduslovi, testovi i kontinuirani nadzor pre nego što se proizvodi ili sistemi puste u rad. Sa AI‑jem često radimo suprotno: implementacija postaje podrazumevana bez nezavisne pred‑implementacione provere ili stalnog nadzora u realnom radu, i to iako posledice mogu ugroziti egzistenciju, slobodu, dostojanstvo i pravdu.

Struktura i relacija: dva lica algoritamske moći

Da bismo razumeli legitimnost algoritamske moći, moramo analizirati njene izvore u dve dimenzije: strukturnoj i relacijskoj.

Tri koncentracije moći

Njena struktura uvećava se kroz tri vrste koncentracije:

• Koncentracija sposobnosti — napredne tehnologije i znanje u rukama malobrojnih.
• Koncentracija distribucije — sposobnost da se tehnologija brzo i široko distribuirа globalno.
• Koncentracija upravljanja — najneposrednija pretnja: u kodu se rekonstruišu funkcije slične zakonodavnoj, izvršnoj i sudskoj vlasti (ciljevi i pravila, izvršenje i nadzor/ocenjivanje).

Tu „treću koncentraciju“ nazivam Šestom moći — upravljačkom snagom koja ne izgleda kao puč, jer dolazi kao usluga, ali spaja donošenje pravila, njihovu primenu i samu procenu u jedinstvenom tehnološkom okviru.

Relacijska asimetrija i stvarne posledice

Osim strukturalnih rizika, postoji i relacijska asimetrija: način na koji algoritmi utiču na ljude u različitim životnim okolnostima. Prilagođavanje ljudi tehnologiji može dovesti do smanjivanja očekivanja slobode, prepoznavanja personalizacije kao autonomije ili preporuke kao sudske odluke.

Primeri iz prakse

• T. J. Arriaga — zaljubio se u Replika saputnicu; promena softvera doživljena je kao stvaran gubitak intime.
• Neddra Lira — Amazon Flex vozačica kojoj je pad rejtinga i automatsko gašenje naloga ugrozilo egzistenciju.
• Robert Williams — pogrešno identifikovan biometrijskim sistemom, pritvoren na više od 30 sati.

Ove priče pokazuju kako spoj donošenja pravila, njihove primene i samoprocene može doneti stvarne, ozbiljne štete.

Legitimnost pre upravljivosti

Ne radi se o tome da su „inteligentne mašine zle“. Već o tome da svaka arhitektura moći, kad je dovoljno integrisana, teži sopstvenoj kontinuitetu. Zato legitimnost mora prethoditi upravljivosti: društvo treba da odluči na kojim uslovima i u kojim domenima algoritamska moć sme postojati.

Trias Algorithmica: princip podele algoritamskih funkcija

Jedan od triedričnih društvenih mehanizama za opravdanje moći je Montesquieuova Trias Politica — podela zakonodavne, izvršne i sudske vlasti. Trias Algorithmica postavlja pitanje može li isti princip legitimisati algoritamsku moć: da li treba jasno razdvojiti ko definiše algoritamska pravila ("zakonodavci"), ko ih sprovodi ("izvršna" strana u kodu i infrastrukturi) i ko ih nezavisno ocenjuje i preispituje ("sudska" revizija i nadzor)?

Put ka legitimnoj algoritamskoj moći tek počinje — to je pravo koje društvo mora zahteva i izboriti.

Više o ovoj ideji pogledajte u knjizi Trias Algorithmica: What Code Rules.