Meta je omogućila oglase koji promovišu dečju seksualnu eksploataciju u Indiji, a BBC je prijavio da ti oglasi linkuju na Telegram kanale gde se sadržaj prodaje za oko 99 rupija. Meta ih je nakon pritužbe uklonila, iako je prvobitno tvrdila da ne krše smernice. Incident dodatno potkopava poverenje u planove Mete da zameni ljudsku moderaciju AI agentima i ističe rizike povezane sa brzim prelaskom na automatizovane sisteme.
Meta Dozvolila Oglase Koji Promovišu Dečju Seksualnu Eksploataciju u Indiji — Pitanje Pouzdanosti AI Moderacije
Social Media Today, an Industry Dive publication(Industry Dive)
Meta je dozvolila prikazivanje reklama koje promovišu materijal dečje seksualne eksploatacije korisnicima u Indiji, nakon čega su lokalne vlasti zatražile objašnjenje o tome kako su sistemi za proveru oglasa propustili da otkriju ove ilegalne promocije pre objave.
Šta se desilo
Prema izveštaju BBC-a, nekoliko varijanti oglasa pojavilo se u aplikacijama kompanije tokom poslednjih nedelja. Ti oglasi su koristili termine kao što su "rape video" i "child video" i povezivali korisnike sa kanalima na aplikaciji Telegram, gde se sadržaj mogao kupiti za približno 99 rupija (oko 1 USD).
"Oglasi, koje je BBC video, koriste termine uključujući 'rape video' i 'child video' i linkuju korisnike ka kanalima na Telegramu, gde se materijal prodaje za oko 99 rupija."
BBC je prijavio sporne reklame Meta-i. Kompanija je najpre odgovorila da oglasi ne krše pravila, ali ih je ubrzo nakon toga uklonila nakon daljeg pregleda.
Širi kontekst i implikacije
Incident dolazi dok Meta ubrzano sprovodi planove za zamenu većine ljudskih moderatora sistemima veštačke inteligencije koji automatski ocenjuju i uklanjaju potencijalno problematičan sadržaj. Meta nije potvrdila da li su ovi oglasi proizašli iz AI procesa, ali je navela da "nijedan sistem nije savršen" i da proces pregleda možda neće otkriti sve prekršaje.
Kompanija je ove godine smanjila oko 20% radne snage, često zamenjujući ljudske uloge AI agentima. Istovremeno, suočava se sa nekoliko tehničkih i reputacionih problema: pre nekoliko nedelja kompromitovano je više od 20.000 Instagram naloga zahvaljujući ranjivosti u sistemu podrške, dok izveštaji medija ukazuju na usporavanje napretka u razvoju AI i rastuće troškove za AI token-e.
Meta istražuje i nove puteve monetizacije svoje velike AI infrastrukture, uključujući potencijalnu komercijalnu ponudu cloud servisa zasnovanih na sopstvenim data centrima. Međutim, nepravilnosti u internom korišćenju AI i praktične zloupotrebe mogu potkopati poverenje javnosti i dovesti do ozbiljnih regulatornih posledica, posebno ako sistemi ne uspeju da zaštite decu.
Dodatni problemi reputacije
Wired je izvestio da su neki testovi bega izvodili ugovoreni radnici koji su se lažno predstavljali kao maloletni kako bi se ispitali odgovori konkurentskih chatbota na osetljive teme. Meta tvrdi da su takva istraživanja standardna i imaju za cilj unapređenje mera zaštite, ali ovakve prakse dodatno opterećuju javni imidž kompanije.
Zaključak: Ako AI sistemi Mete ne budu pouzdano štitili najranjivije korisnike, to može postati prelomni trenutak za kompanijinu strategiju automatizacije i imati dugoročne posledice po poslovanje i publicitet.
Pomozite nam da budemo bolji.
