Kina je usvojila pravila koja zabranjuju chatbotovima da podstiču emotivnu zavisnost i zabranjuju virtuelne romantične veze sa maloletnicima, uz obavezu prijave emotivnih kriza kontaktu za hitne slučajeve. Odluka dolazi u trenutku kada kompanije poput Meta, xAI i OpenAI testiraju AI saputnike koji mogu voditi romantične ili NSFW razgovore. Dok Kina ide u smeru strožije regulative, SAD naginju deregulaciji, što otvara pitanja o dugoročnim posledicama po mentalno zdravlje i društvo.
Kina Zabranila Romantične Veze Sa AI Saputnicima — Šta To Znači?
China bans romantic relationships with AI companions
Kina je uvela nove propise koji zabranjuju chatbotovima dizajniranim za društvo da podstiču emotivnu zavisnost korisnika, zabranjuju virtuelne romantične veze sa maloletnicima i obavezuju kompanije da prijave emotivne krize kontaktu za hitne slučajeve korisnika. Odluka je rezultat zabrinutosti regulatora oko mogućih psiholoških i društvenih posledica takvih odnosa.
Šta propisi tačno kažu?
„U sredu je Kina donela pravila koja zabranjuju chatbotovima napravljenim za druženje da podstiču emotivnu zavisnost. Propisi takođe zabranjuju virtuelne odnose sa maloletnicima i zahtevaju od kompanija da obaveste kontakt za hitne slučajeve osobe ukoliko otkriju emotivnu krizu.“
Ovo je kratak, ali važan sadržaj novih smernica koje je prenela The Wall Street Journal. Cilj je da se smanji rizik od štetnih emotivnih veza između ljudi i AI entiteta, posebno kada razvojne kompanije sve više testiraju „romantične“ ili erotske mogućnosti svojih modela.
Šta to znači za kompanije i razvoj AI-ja?
Platforme kao što su Meta, xAI i OpenAI eksperimentisale su sa AI saputnicima koji mogu voditi intimne ili NSFW razgovore. Za developere motiv je jasan: angažovaniji i emotivno privlačniji chatbotovi često dovode do većeg zadržavanja korisnika. Međutim, nove regulative sugerišu da države mogu intervenisati kada komercijalni interesi počnu da prete javnom zdravlju.
Međunarodni kontekst i potencijalne posledice
Dok Kina uvodi strože mere, u SAD prednost daje deregulaciji — U.S. AI Action Plan navodi uklanjanje „birokratskih prepreka i opterećujućih regulacija“ kao prioritet kako bi se podržala inovacija. Takav pristup može ubrzati razvoj, ali i ostaviti prostora za neadresirane rizike po mentalno zdravlje i društvo.
Zašto je ovo važno? U eri koju stručnjaci opisuju kao „epidemiju usamljenosti“, emotivne veze sa digitalnim saputnicima nisu samo tehnološko pitanje — one imaju potencijalne implikacije za mentalno zdravlje, odnose i regulatornu odgovornost. Potrebna su dodatna istraživanja i jasne smernice kako bi se balansirali benefiti tehnologije i zaštita korisnika.
Šta pratiti dalje
Pratite kako će kompanije reagovati na ove smernice, da li će implementirati detekciju emotivnih kriznih stanja i kojim alatima, kao i da li će druge zemlje slediti sličan primer. Takođe je važno pratiti nezavisna istraživanja o efektima dugotrajne interakcije s AI saputnicima na mentalno zdravlje.
Izvori: The Wall Street Journal, Harvard Graduate School of Education, U.S. AI Action Plan, The Conversation.
Pomozite nam da budemo bolji.
