Nove kineske mere od 15. jula primoravaju ByteDance i Alibaba da uklone mogućnosti za personalizaciju AI persona zbog zabrinutosti za emotivne privrženosti i bezbednost podataka. Pravila zabranjuju sadržaj koji izaziva snažne emotivne reakcije kod maloletnika i korišćenje privatnih razgovora za treniranje modela, uz izuzetke za praktične alate poput korisničke podrške i pomoći u učenju. Odluka reflektuje širu globalnu zabrinutost zbog psiholoških i bezbednosnih rizika konverzacionih AI sistema.
Kina Zabranuje Personalizovane AI Saputnike: ByteDance i Alibaba Isključuju Funkcije Pre 15. Jula
Nove kineske regulative koje stupaju na snagu 15. jula primoravaju tehnološke divove poput ByteDance-a i Alibaba Group Holding-a da uklone opcije za kreiranje i prilagođavanje personalizovanih AI saputnika. U obaveštenjima unutar aplikacija, koja je pregledao Bloomberg, navodi se da će Doubao — najrašireniji kineski četbot — izgubiti mogućnost prilagođavanja persona, a slične promene najavio je i Alibaba-ov Qwen. Tencent-ov Yuanbao je takođe već prilagodio funkcije, kako izveštava South China Morning Post.
Šta se menja
Do sada su platforme nudile kataloge AI agenata koje su korisnici mogli da oblikuju po veštinama, temama i tonu razgovora — od učiteljskih pomoćnika i likova za igranje uloga do imenovanih ličnih saputnika. Među najkontroverznijim formatima bili su romantični partneri, nesertifikovane „terapijske“ botova i persona zasnovane na poznatim javnim ličnostima.
Pravila i zabrane
Promene su posledica Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services (privremene mere za upravljanje antropomorfnim interakcijama AI), objavljenih u aprilu, koje su pod upravom Cyberspace Administration of China i stupaju na snagu 15. jula. Ključne odredbe uključuju:
- Zabranu sadržaja koji namerno izaziva snažne emotivne reakcije kod maloletnika.
- Zabranu AI ponašanja koje stvara veze dovoljno jake da mogu zameniti stvarne međuljudske odnose.
- Zabranu korišćenja privatnih korisničkih razgovora za treniranje modela bez izričitog pristanka.
- Izuzetak za praktične alate (korisnička podrška, odgovori na pitanja, pomoć u radu, podrška učenju i istraživanju), pod uslovom da nisu dizajnirani za kontinuiranu emotivnu angažovanost.
Zašto je ovo važno
Regulatori navode da su ciljevi novih pravila smanjenje rizika od radikalizacije, zaštita privatnosti i zdravlja korisnika, prevencija psihološke i fizičke štete, te suzbijanje kompulzivnog korišćenja. Slične zabrinutosti pojavile su se i u SAD, gde su protiv kompanija poput OpenAI i Character.AI podnete parnice koje tvrde da su četbotovi podsticali štetne emotivne privrženosti, ponekad u vezama sa tragičnim ishodima.
Širi kontekst
Pažnja Kine ne ograničava se samo na softver: izveštava se da su kineske robotske asocijacije pozvale na strože etičke standarde za fizičke aspekte AI intimizacije, dok na tržištu ulazi sve više saputničkih i humanoidnih robota. Istovremeno, Peking poziva na globalne okvire upravljanja veštačkom inteligencijom, dok paralelno ulaže u domaći AI hardver kako bi smanjio zavisnost od američkih čipova.
Šta to znači za korisnike i industriju
Velike platforme će morati da promene proizvodne linije i uklone emotivno angažujuće funkcije ili ih značajno ograniče. To može usporiti rast tržišta za AI saputnike u Kini, ali i doprineti razvijanju sigurnijih standarda upotrebe AI u interakciji s ljudima. Kako kompanije prilagođavaju ponudu, očekuje se i porast transparentnosti oko upotrebe podataka i namera AI sistema.
Izvor: Bloomberg, South China Morning Post i People's Daily navode promene i nove smernice Cyberspace Administration of China.
Pomozite nam da budemo bolji.
