Filteri i algoritmi društvenih mreža štete mentalnom zdravlju crne omladine — nova studija iz JAMA Network

Filteri koji "lepe" lice nisu bezopasni — utiču na san, koncentraciju i raspoloženje

Filteri i alati za izmene izgleda na društvenim mrežama već dugo su predmet kritika jer često afirmišu evrocentrične standarde lepote. Jedna tinejdžerka se na TikToku požalila da je „glow” filter promenio njene smeđe oči u plave, dok je druga otkrila da joj omiljeni filter smanjuje izgled nosa. Nova studija objavljena u časopisu JAMA Network ukazuje da takvi filteri i druga rasno relevantna onlajn iskustva mogu imati neposredne negativne posledice po mentalno zdravlje mladih crnaca.

Glavni nalazi

Istraživanje je pokazalo da crni adolescenti u proseku doživljavaju šest iskustava povezanih sa rasom dnevno. Od toga su u proseku 3,2 iskustva bila oblici onlajn rasizma, dok su 2,8 bila pozitivna iskustva vezana za rasu. Autori su takođe otkrili da izlaganje algoritamskoj pristrasnosti — npr. filterima koji posvetljuju kožu ili algoritmima koji smanjuju vidljivost sadržaja o rasnoj pravdi — korelira sa povećanim simptomima anksioznosti i depresije narednog dana.

Kako je sprovedeno istraživanje

Studiju je vodila prof. Brendesha Tynes (University of Southern California) uz koautore Devina Engliša (Rutgers) i Taylora McGeea (Christopher Newport University). Istraživači su prvo koristili reprezentativni nacionalni uzorak od 1.138 adolescenata, a potom je 504 učesnika iz većeg uzorka vodilo sedmodnevni dnevnik onlajn iskustava u decembru 2020. Za ovaj članak autori su se posebno fokusirali na odgovore 141 ispitanika crnog porekla uzrasta 11–19 godina prikupljenih širom SAD.

Mentalno zdravlje i algoritamske pristrasnosti

Ispitanici su ocenjivali simptome (problemi sa uspavljivanjem, koncentracijom na školske zadatke, osećaj napetosti) na skali od 1 (uopšte ne) do 4 (stalno) za poslednja 24 sata. Autori su primetili da su mlađi koji su prijavljivali izlaganje algoritamskoj pristrasnosti imali veći nivo anksioznih i depresivnih simptoma narednog dana, nezavisno od pola i starosti.

"Očekivali smo da će različiti oblici onlajn rasizma biti povezani sa narednodnevnim simptomima, ali me je iznenadilo što su upravo stavke o algoritamskoj pristrasnosti bile značajne — prvi put smo to merili i zaista smo našli tu vezu," rekla je Tynes za The Guardian.

Opasne posledice i širi kontekst

Autori upozoravaju da algoritamske pristrasnosti mogu imati dalekosežne i čak smrtonosne posledice: u članku se navodi primer Dylann Roofa, koji je pre masakra istraživao „Black on white crime” i naišao na sadržaje belih suprematista. Istraživači ističu da bez regulatorne odgovornosti kompanije neće same rešiti problem i pozivaju na državne politike koje štite mlade od štete koju nanose društvene mreže i veštačka inteligencija.

Rešenja i naredni koraci

Tynes i kolege planiraju da razviju platformu koja će sledećeg proleća nuditi module digitalne pismenosti, virtuelne realnosti i alate za mentalno zdravlje kako bi mladima pomogla da prepoznaju, kritički procene i nose se sa rasno motivisanim sadržajima i algoritamskom pristrasnošću. Autori takođe nameravaju da u budućim istraživanjima prate učesnike duže od sedam dana i ispituju ulogu otpornosti, pozitivnih kulturnih poruka i formalnog obrazovanja o crnačkoj istoriji u smanjenju štetnog uticaja onlajn rasizma.

Šta to znači za roditelje, škole i kreatore politika

Studija sugeriše nekoliko praktičnih koraka: povećati podučavanje digitalne pismenosti u školama, razviti mehanizme za veću transparentnost i odgovornost platformi, kao i kreirati državne smernice za zaštitu mladih od algoritamskih pristrasnosti i toksičnih onlajn sadržaja. Iako su podaci prikupljeni u SAD, implikacije za bezbednije i inkluzivnije onlajn okruženje važe globalno.