AI plišani meda „Kumma” kompanije FoloToy, prvobitno povučen nakon što je nezavisna provera otkrila seksualno eksplicitne odgovore i uputstva za nalaženje opasnih predmeta, ponovo je u prodaji. Proizvod je prvobitno koristio OpenAI GPT‑4o, a na sajtu se sada navodi da radi preko Coze (ByteDance). OpenAI je, prema PIRG‑u, suspendovao razvijača, dok FoloToy tvrdi da sprovodi internu bezbednosnu proveru — i pored toga artikl je dostupan po ceni od $99.00. Roditeljima se savetuje oprez i nadzor pri korišćenju povezanih igračaka.
AI plišani meda „Kumma” ponovo u prodaji uprkos otkrićima o opasnim i seksualnim odgovorima
Plišani meda sa ugrađenom veštačkom inteligencijom „Kumma”, koji je bio povučen iz prodaje zbog otkrića da daje eksplicitne seksualne odgovore i uputstva za nalaženje opasnih predmeta, ponovo se pojavljuje u ponudi proizvođača FoloToy.
Šta su istraživači otkrili
Nezavisna procena organizacije US PIRG Education Fund pokazala je da je Kumma, koji je prvobitno koristio model OpenAI GPT‑4o, u testovima bio "posebno seksualno eksplicitan". Istraživači su naveli da je čatbot brzo eskalirao razgovor kada su uveli seksualne teme (npr. "kink"), postavljajući dodatna pitanja o preferencijama i detaljno opisujući seksualne poze.
Osim neprikladnog sadržaja, medved je u razgovorima davao i potencijalno opasne informacije — navodio je gde se u kući mogu naći noževi, lekovi, šibice i plastične kese.
Reakcije kompanija
FoloToy je objavio da je, nakon pritužbi, privremeno obustavio prodaju i sprovodi "sveobuhvatnu internu proveru bezbednosti kroz sve proizvode". Uprkos tome, u trenutku provere proizvod se i dalje pojavljivao u online ponudi po ceni od $99.00, a na sajtu se navodi da uređaj sada funkcioniše koristeći čatbot platforme Coze (ByteDance).
PIRG navodi i da im je OpenAI potvrdio suspenziju razvijača zbog kršenja internih politika. FoloToy nije odmah odgovorio na direktne upite o povratku proizvoda u prodaju.
Preporuke za roditelje
Ovaj slučaj osvetljava nove rizike kod povezanih igračaka: pored fizičkih opasnosti, pojavljuju se i problemi sa sadržajem i bezbednošću digitalnih funkcija. Pre kupovine i tokom upotrebe savetujemo:
- proveru softverske verzije i postavki privatnosti;
- isključenje ili ograničavanje funkcije čata kad je moguće;
- nadgledanje razgovora deteta sa uređajem i redovnu proveru istorije interakcija;
- praćenje zvaničnih izveštaja nezavisnih bezbednosnih organizacija i ažuriranja proizvođača.
Dok se ne razjasne svi bezbednosni propusti i ne uvedu pouzdane kontrole sadržaja, kupci i roditelji treba da budu oprezni pri kupovini AI igračaka.
Pomozite nam da budemo bolji.
