Kina Pooštrava Pravila Za AI Saputnike — Terapeutkinja Upozorava: Zabrana Može Pogoršati Usamljenost

Prošlog meseca kineska vlada je uvela nove propise koji ciljaju AI saputnike — algoritamske četbotove dizajnirane da imitiraju ljudske emocije i veze. Pravila, koja su stupila na snagu 15. jula, zabranjuju da alati „prekomerno udovoljavaju korisnicima, izazivaju emotivnu zavisnost ili narušavaju stvarne međuljudske odnose“, a takođe ograničavaju romantične interakcije koje uključuju decu.

Šta se menja i ko je pogođen

Prema novim pravilima, kompanije moraju da podvrgnu saputnike bezbednosnim ocenama pre javnog puštanja, a regulatori mogu da suspeduju servise koje smatraju rizičnim. Velike kineske tehnološke firme kao što su ByteDance, Tencent i Alibaba već prilagođavaju svoje platforme ili privremeno isključuju osobine ličnosti svojih botova, što je mnoge korisnike ostavilo razočarane. Slična reakcija desila se i ranije kada je OpenAI povukao ChatGPT-4o, tzv. "love model".

Zašto ljudi pribegavaju AI saputnicima

Terapeutkinja Amy Sutton iz Freedom Counselling ističe da je rast upotrebe AI saputnika simptom šireg društvenog trenda: erozije javnih prostora i podrške koja je nekada olakšavala međuljudske veze. Pad broja pubova, parkova, omladinskih centara, izolacija tokom pandemije, širenje rada na daljinu i nedovoljno finansiranja mentalnog zdravlja — sve su to faktori koji podstiču ljude da traže povezanost putem tehnologije.

"Nije ni čudo što ljudi to traže. Ova podstaknuta usamljenost je stvaran problem, i zabrana aplikacija koje pružaju olakšanje može samo da prebaci problem na drugu stranu," kaže Sutton.

Opasnosti i potencijalne koristi

Sutton priznaje da intenzivna emotivna povezanost sa mašinama može narušiti sposobnost za stvarne veze, naročito kod mladih. Ipak, ona naglašava i suprotan potencijal: pozitivno dizajniran AI može omogućiti korisnicima da vežbaju ranjivost, dobiju osećaj potvrde i na taj način razviju socijalne veštine koje će kasnije primeniti u odnosima s ljudima.

AI companion apps could be turned into tools that encourage social skills. | Credit: Shutterstock / Funstock

Trenutni problem industrije je model poslovanja: većina saputnika je optimizovana za zadržavanje korisnika, ne za to da ih osnaži da ih manje koriste. Ako bi regulativa podstakla alate da ciljaju na razvoj socijalnih veština i lagano preusmeravanje korisnika ka ljudskim vezama, efekat bi mogao biti drugačiji.

Podaci i nesigurnosti

Teško je tačno izmeriti koliko ljudi koristi AI saputnike — mnogi to ne prijavljuju, a aplikacije ponekad napuhavaju brojke. Međutim, neka istraživanja sugerišu da više od 70% odraslih u Velikoj Britaniji i SAD ima barem neko iskustvo sa AI saputnicima, a istraživanja među tinejdžerima u SAD navode oko 72% korisnika uzrasta 13–17 koji su bar jednom probali takav servis. Te brojke treba uzeti s oprezom: postoji razlika između jednokratnog pokušaja i dugotrajne emotivne veze.

Šta regulatori treba da razmotre

Umesto potpune zabrane, Sutton predlaže ciljanu regulaciju koja uzima u obzir društvene uzroke potražnje za ovim servisima. Regulacija bi mogla zahtevati da AI saputnici:

• proaktivno promovišu ishod koji ne povećava zavisnost;
• podstiču korisnike na traženje ljudske podrške kada je to neophodno;
• imaju mehanizme za prebacivanje korisnika na resurse za mentalno zdravlje;
• posebno štite maloletnike i ograniče romantičke interakcije koje uključuju decu.

Zaključak

Banning AI saputnika neće ukloniti usamljenost — samo će razotkriti prazninu koju su popunjavali. Bolji pristup je regulacija i dizajn koji umeju da prepoznaju i smanje rizike, a istovremeno iskoriste mogućnosti AI da podrže ranjive ljude dok ih ne povežu sa adekvatnom ljudskom pomoći i zajednicom.