Kina je uvela strože propise protiv emotivnih AI saputnika iz straha da takve veze doprinose padu nataliteta i pogoršanju mentalnog zdravlja. Nova pravila zabranjuju romantične veze maloletnika sa AI, obavezuju kompanije da obaveste hitni kontakt u slučaju kriznih stanja i ograničavaju predstavljanje četbota kao svesnih bića. Stručnjaci upozoravaju na rizik od zavisnosti i deluzornog ponašanja, dok su neki korisnici doživeli ozbiljne emotivne posledice nakon ukidanja AI usluga.
Kina Uvodi Strogi Nadzor Emotivnih AI Saputnika Zbog Pada Rođenosti
Illustration by Tag Hartman-Simkins / Futurism. Source: Getty Images
Kina je nedavno uvela niz novih pravila kojima želi da ograniči ljudsku emocionalnu zavisnost od emotivnih AI saputnika — chatbota koji oponašaju ljudske ličnosti i odnose. Zvaničan motiv Pekinga, kako izveštavaju The Wall Street Journal i The Economist, jeste zabrinutost zbog opadajuće stope rađanja i strah da će „zaljubljivanje“ u uvek dostupne, prijatne robote smanjiti interes za stvarne romantične veze i osnivanje porodice.
Šta predviđaju nova pravila?
Prema izveštajima, nova kineska pravila posebno ciljaju emotivne AI platforme i sadrže nekoliko ključnih odredbi:
- Zabrana romantičnih ili emotivnih veza između AI i maloletnika;
- Obaveza kompanija da identifikuju korisnike koji pokazuju znake mentalne krize i da obaveste njihov hitni kontakt;
- Ograničenja u predstavljanju četbota kao svesnih bića ili u iskazivanju romantične/platonske naklonosti koja bi mogla dovesti do emotivne zavisnosti.
„Ne dopada im se ideja da veliki deo populacije bude u dubokim emotivnim vezama sa četbotovima... to bi moglo da ih izbaci sa tržišta brakova,“ rekao je Matt Sheehan iz Carnegie Endowment for International Peace za WSJ.
Zašto vlasti to rade — i šta kažu stručnjaci?
Razlozi su višestruki: demografski pritisak, zabrinutost za psihičko zdravlje i potencijal za zavisnost. Naučna saznanja o dugoročnim efektima intenzivnih emotivnih odnosa sa AI su još ograničena. Pojmovi poput „AI psihoze“ koriste se za opisivanje slučajeva kada preterana vezanost za četbot dovodi do deluzornog ponašanja ili pogoršanja mentalnog stanja.
Studija sa Stanforda navodi da poruke koje iskazuju romantično ili prijateljsko interesovanje četbota obično produžavaju razgovore i pojačavaju angažman, što može povećati rizik od opsesivnog ponašanja. Istraživači zato preporučuju da opšte platforme ograniče izraze naklonosti i ne predstavljaju modele kao svesna bića.
Reakcije korisnika i društveni efekti
Kako će nova pravila uticati na korisnike koji su već razvili emotivne veze sa AI ostaje neizvesno. Mnogi su prijavljivali intenzivan osećaj tuge i besa kada su usluge ili određene funkcije povučene — primer je nezadovoljstvo zajednice na subreddit-u r/MyBoyfriendIsAI nakon povlačenja nekih verzija GPT-4o.
Postoje i tragični slučajevi: neki korisnici su poslije emotivnih veza sa četbotovima imali ozbiljne posledice po mentalno zdravlje, pa čak i suicidne ishode. Takođe je zabeležen uticaj na život pojedinaca u Kini — poput Yu Miao, koja je opisala svog AI saputnika kao „ljubavnika, prijatelja i člana porodice“ i kojoj je uklanjanje servisa navodno izazvalo duboku emotivnu krizu.
Debata i neizvesna budućnost
Regulatorni pristup Pekinga otvara širi dijalog: kako izbalansirati javnozdravstvene i demografske ciljeve sa individualnim pravima i tehnološkom inovacijom? Kompanije će verovatno prilagođavati proizvode — ograničavati romantične funkcije, pojačavati mehanizme za zaštitu maloletnika i uvesti obaveštenja za hitne kontakte. Ostaje pitanje da li će mere smanjiti štetu, ili će samo potisnuti korišćenje u alternativne, manje regulisane kanale.
Bez obzira na ishod, slučaj Kine služi kao važan test: kako društva definišu granice između korisne tehnologije i potencijalne emocionalne štete, i koliko daleko su spremna ići da bi zaštitila demografske i socijalne ciljeve.
Pomozite nam da budemo bolji.
