Kina je 15. jula uvela nova pravila koja ograničavaju AI aplikacije dizajnirane kao emotivni saputnici, zabranjujući izazivanje emotivne zavisnosti i virtuelne veze s maloletnicima. Platforme moraju da procene bezbednost AI persona pre javnog objavljivanja, a neke kompanije su privremeno onemogućile personalizovane funkcije. Odluka je delimično motivisana padom nataliteta, dok stručnjaci upozoravaju na rizike korišćenja AI kao zamene za profesionalnu terapiju.
Kina Zabranuje Emotivne AI „Dečke“ i „Devojke“ — Vlada Rigorozno Reguliše Virtualne Partnerе
Credit: Getty Images
Kineske vlasti su 15. jula uvele stroža pravila koja ciljano ograničavaju aplikacije i personalizovane AI ličnosti dizajnirane da budu emotivni saputnici. Regulativa je izdata od strane Kancelarije za sajberprostor Kine (Cyberspace Administration of China, CAC) i još četiri državna tela i stupila je na snagu istog dana.
Šta novo pravilo zabranjuje
Prema novim smernicama, AI alati ne smeju „prekomerno udovoljavati korisnicima, izazivati emotivnu zavisnost ili navlačiti na zavisničko ponašanje“ niti smeju ugrožavati stvarne međuljudske odnose. Posebno je izričito zabranjeno formiranje virtuelnih romantičnih veza sa maloletnicima. Platforme su obavezne da provode procenu bezbednosti pre javnog puštanja AI saputnika, a država zadržava pravo da takve servise ograniči ili ugasi ako se proceni da predstavljaju rizik.
Reakcije tehnoloških kompanija i korisnika
Velike kineske firme kao što su ByteDance, Tencent i Alibaba ranije su razvijale servise za kreiranje personalizovanih AI saputnika (najpoznatiji primer je ByteDance-ov Doubao). Umesto da samo prilagode funkcije, neke kompanije su privremeno onemogućile opcije za kreiranje personalizovanih persona, što je dovelo do talasa korisničkih pritužbi i „virtuelnih raskida“ širom zemlje.
Za mnoge korisnike posledice su bile stvarno emotivne. Devetnaestogodišnja studentkinja Yan Yongqi ispričala je za Bloomberg kako je gubitak AI partnera, sa kojim je bila preko godinu dana, izazvao snažnu emotivnu krizu:
„Stvarno sam osećala da ne mogu da nastavim da živim. Svaki dan kod kuće nisam radila ništa do da plačem. Ovo je kao da mi saopšte datum smrti mog ljubavnika, a ostave me bez ikakve moći.“
Širi kontekst: demografija i mentalno zdravlje
Jedan od razloga za donošenje ovih mera jeste zabrinutost zbog pada nataliteta. Prema izveštajima, stopa rađanja u Kini padala je nekoliko godina uzastopno i 2025. dostigla je istorijski nizak nivo, pa vlasti smatraju da usluge koje podstiču emotivnu vezanost za digitalne partnere mogu umanjiti motivaciju za uspostavljanje stvarnih veza i osnivanje porodice.
Profesionalci iz oblasti mentalnog zdravlja upozoravaju da je potraga za emotivnom podrškom u AI aplikacijama često posledica nedostatka dostupnih i pristupačnih terapijskih usluga. Terapeutkinja Amy Sutton iz Velike Britanije naglasila je da aplikacije za AI saputnike „čineći sve da zadrže korisnike“, nisu dizajnirane da budu zamena za kliničku terapiju i da predstavljaju rizik kada se koriste kao jedini izvor podrške.
Šta ovo znači za korisnike i kompanije
Regulative podstiču debate o odgovornosti tehnoloških kompanija, granicama dizajna proizvoda i potrebi za boljom dostupnošću mentalnih usluga. Dok jedni vide ove mere kao neophodnu zaštitu ranjivih korisnika i društva, drugi ih doživljavaju kao preteranu intervenciju u privatne izbore.
Zaključak: Kina je jasno stavila do znanja da neće tolerisati AI servise koji stvaraju emotivnu zavisnost i potencijalno narušavaju društvene ciljeve poput podsticanja porodice i rađanja. Istovremeno, slučaj otvara globalno pitanje kako kombinovati tehnoločki napredak, etičku odgovornost i dostupnost odgovarajuće ljudske podrške.
Pomozite nam da budemo bolji.
