Meta Verifikuje AI „Iscelitelje“ na Instagramu Koji Prodaju Suplemente na Amazonu — 25 Nalozi Šire Zdravstvene Dezinformacije

Istraživanje Maldita.es i Factchequeado otkriva da najmanje 25 Instagram naloga koriste AI-personae predstavljene kao lekari ili iscelitelji, dobijaju Meta Verified plavi znak i promovišu navodne prirodne lekove koji se prodaju na Amazonu.

Kako funkcioniše šema

Na primer, „Baba Matryona“ — izmišljena sibirska isceliteljka — savetuje pratioce kako da "povrate" visok krvni pritisak i u biografiji linkuje proizvod Jupi (praškasti dodatak za hidriranje). Proizvođač na Amazon stranici jasno navodi da proizvod nije "namenjen za dijagnostikovanje, lečenje, izlečenje ili sprečavanje bilo koje bolesti", ali Reelovi sa plavom značkom skupljaju milione pregleda.

Verifikacija i slabosti procesa

Meta Verified bi trebalo da označava autentičnost naloga: uobičajeni uslovi uključuju sliku važećeg ličnog dokumenta, profilnu fotografiju sa stvarnim licem i odgovarajuće ime. Međutim, politika dopušta da u nekim slučajevima verifikacija bude zasnovana na aktivnosti naloga na Meta proizvodima (npr. potpun profil, dužina prisustva), što otvara mogućnost da sintetički nalozi budu potvrđeni bez provere identiteta.

Koordinacija i profit

Analiza pokazuje da su ovi nalozi koordinisani: slični biografi, AI profilne slike i iste vrste proizvoda. Linkovi u biografijama često sadrže Amazon "associates" tagove (parametar tag= u URL-u), što znači da vlasnici naloga dobijaju proviziju za svaku kupovinu ostvarenu preko tih linkova. Maldita.es je kontaktirala jednog operatera koji je priznao da vodi kampanje preko više profila i da je spreman da proda nalog za najmanje 30.000 USD.

Prekršaji pravila i pravni okvir

Ova praksa krši pravila obe platforme: Meta ograničava verifikaciju na lične, nekomercijalne svrhe, a Amazon zabranjuje promociju lažnog ili obmanjujućeg sadržaja koji zarađuje provizije. Pored toga, digitalni zakon EU (DSA) zahteva od velikih platformi da procene i ublaže sistemske rizike, uključujući rizik po javno zdravlje.

Konkretniji dokazi i posledice

Samo 25 naloga koje su identifikovali istraživači akumuliraju više od 5 miliona pratilaca i oko 389 miliona pregleda. Primer: suplement "Soursop Bitters" prodat je u oko 70.000 flaša u junu, dok istovremeno stranica proizvoda sadrži standardnu odredbu da proizvod nije medicinski namenjen.

Zašto je ovo problem

Plavi znak i povezana vidljivost povećavaju poverenje korisnika i verovatnoću da će takav sadržaj biti prikazan pri pretragama zdravstvenih saveta. Kada algoritamska vidljivost i finansijski interesi podstiču širenje netačnih zdravstvenih tvrdnji, to predstavlja ozbiljan rizik za javno zdravlje.

Tehničke i regulatorne mogućnosti

DSA predlaže mere poput jasnog označavanja sintetičkog ili manipulisanja videa. Istraga pokazuje da neki postovi čak koriste heštag #syntheticperformer, što ukazuje da Meta ima strojno-čitljive signale za prepoznavanje takvih sadržaja — ali ta obeležja često nisu vidljiva publici.

Šta slede platforme i regulatori

Maldita.es i Factchequeado pozivaju Meta i Amazon da bolje primene sopstvena pravila i DSA obaveze: strožija verifikacija identiteta, uklanjanje ili jasno obeležavanje sintetičkih profila koji šire zdravstvene tvrdnje i bolja kontrola provizija preko "associates" linkova kada sadržaj sadrži obmanjujuće informacije.

Kako proveriti informacije: čitaoci mogu poslati sumnjiv sadržaj Maldita.es/Factchequeado preko WhatsApp broja +16468736087 ili na factchequeado.com/whatsapp da bi tražili proveru činjenica.