Studija sa Michigan State University modelovala je uticaj AI agenata u igri Javnih Dobara i ispitala tri politike ponašanja: uvek kooperativni AI, AI podesiv od strane igrača i AI koji imitiraju ponašanje ljudi. Najefikasnija se pokazala politika imitacije — ona smanjuje prag sinergije potreban za saradnju i može učiniti saradnju samointeresnom. Autori upozoravaju da je model teoretski, pojednostavljen i da ne uključuje društvene norme, buku u informacijama ni mrežnu strukturu.
Kako AI Može Podstaći Saradnju: Zašto Imitacija Pomaže, A 'Lepo' Ponašanje Ne
A Michigan State study tests AI in a classic cooperation game, and finds mimicry can push groups toward cooperation. (CREDIT: AI-generated image / The Brighter Side of News)
Forsiranje AI sistema da "ponaša fino" ne znači automatski da će ljudi početi da sarađuju. Nova studija sa Michigan State University koristi igru Javnih Dobara da pokaže kako različite politike ponašanja AI utiču na ljudsku kooperaciju — i otkriva neočekivane rizike i mogućnosti.
Šta su autori radili?
Profesor Christoph Adami i saradnici modelovali su populaciju "ljudskih" igrača čije se verovatnoće saradnje menjaju evolucijom tokom 10.000 generacija. Igrači s vremena na vreme igraju ponovljene igre Javnih Dobara u malim grupama, a iz tih dobitaka nastaje selekcija. U pojedine pozicije oko fokalnog igrača ubacivani su ne-evoluirajući AI agenti koji slede unapred zadatu politiku.
Tri testirane politike AI agenata
1. Uvek Kooperativni AI
Ideja: ako AI uvek doprinosi, možda će podstaći ljude da se ponašaju isto.
MSU professor Christoph Adami, Department of Microbiology, Genetics, & Immunology. (CREDIT: Michigan State University)
Rezultat: Ne. Obavezna saradnja AI povećavala je nivo kooperacije samo u meri u kojoj je bio prisutan broj AI agenata — ljudi nisu postajali skloniji saradnji. U ovoj igri samo prisustvo kooperanata u okolini ne menja suštinsku dilemu.
2. AI Podesivi Od Strane Igrača
Ideja: igrači evoluiraju ne samo svoju spremnost na saradnju, već i koliko će njihovi obližnji AI agenti biti kooperativni.
Rezultat: Igrači su programirali AI da sarađuju dok su sami defektori — "prebacili" su trošak saradnje na agente i i dalje uzimali deo benefita. To ukazuje na rizik od eksploatacije automatizovanih sistema: ako ljudi mogu slobodno da podešavaju AI, mogu ih koristiti kao štit za sopstveno ne-kooperativno ponašanje.
Illustration of the Public Goods game. (CREDIT: npj Complexity)
3. AI Koji Imitira Ponašanje Igrača
Ideja: AI agenat kopira ponašanje fokalnog igrača — ako igrača sarađuje, agent sarađuje; ako ne, ne.
Rezultat: Ova politika menja kriterijume dobitka tako da saradnja postaje boljom strategijom pri nižem nivou "sinergije". Što više imitatora u okolini, to je niži prag potreban da saradnja postane samointeresna. U graničnom slučaju gde su svi susedi imitatori, dilema praktično nestaje.
"Imitacija nije samo najiskreniji oblik laskanja; ona je i oblik komunikacije koji može pružiti podsticaj da populacija pređe u režim saradnje." — Christoph Adami
Ograničenja i oprez
Autori jasno navode da je model pojednostavljen: strategije se menjaju kroz evoluciju zasnovanu na dobitku, dok stvarni ljudi reaguju i kroz norme, emocije i institucionalne mehanizme. Model pretpostavlja savršeno opažanje i kopiranje ponašanja (informacije bez buke) i ne uključuje prostorne mreže koje u praksi utiču na dinamiku saradnje. Testirane su samo tri politike — postoje i druge mogućnosti (recipročnost, kazne, reputacija) koje su izvan ovog rada.
Illustration of three different policies for AI agent behavior. (CREDIT: npj Complexity)
Praktične implikacije
Studija sugeriše da sama "fina" AI neće ukloniti problem slobodnjačkog ponašanja. Naprotiv, ako ljudi imaju neograničen uticaj na podešavanje AI, mogu ga zloupotrebiti da ne snose troškove kolektivnog dobra. S druge strane, dizajn AI koji reaguje na ljudsko ponašanje — umesto da ga jednostavno upija — može promeniti privatne podsticaje i olakšati prelazak ka saradnji. To ima primenu, na primer, u protokolima za autonomna vozila (odlučivanje o popuštanju i uključivanju) ili u dizajnu digitalnih asistenata koji učestvuju u kolektivnim odlukama.
Zaključak
Rad u npj Complexity je teoretski, ali ukazuje na koristan princip: umesto da pravimo AI "uvek dobrim", vredi razmotriti mehanizme koji povezuju ponašanje sistema sa ponašanjem ljudi. To može stvoriti prostor u kojem je saradnja ujedno i racionalna odluka.
Izvor: The Brighter Side of News (originalna priča: "How artificial intelligence can reduce selfish behavior and reshape society").
Pomozite nam da budemo bolji.
