Studija u časopisu Patterns pokazuje da ponavljana autonomna iteracija između sistema tekst‑>slika i slika‑>tekst vodi ka homogenim, „very generic‑looking“ slikama, koje autori nazivaju "visual elevator music". Ahmed Elgammal upozorava da takav proces može već da doprinosi kulturnoj stagnaciji jer AI favorizuje poznato i konvencionalno. Istraživači predlažu veću ljudsku saradnju i dizajn modela koji aktivno sprečavaju konvergenciju ka prosečnim izlazima.
Generativni AI I Kulturna Stagnacija: Istraživanje Upozorava
Generative AI may already be inducing a state of "cultural stagnation," leading to a convergence of generic ideas, a new study has shown.
Generativni sistemi veštačke inteligencije u velikoj meri se oslanjaju na ogromne količine ljudski kreiranog materijala prikupljenog sa interneta. Novo istraživanje ukazuje na rizik da, kada ti sistemi počnu da koriste sopstveno, AI-generisano sadržaje kao izvor učenja i ponovnog generisanja, kulturni pejzaž može postepeno da se izravna i osiromaši.
Šta su istraživači otkrili?
Rad objavljen u časopisu Patterns pokazuje da kombinacija tekst‑>slika i slika‑>tekst sistema, kada se ponavlja autonomno, vremenom konvergira ka „veoma generičnim“ slikama koje autori nazivaju visual elevator music. To znači da bez dodatnog treninga ili unošenja novih podataka modeli prirodno klize ka homogenim, predvidivim i često vizuelno nezanimljivim rezultatima.
„Ovo otkriće pokazuje da, čak i bez dodatnog treniranja, autonomni AI povratni krugovi prirodno klize ka zajedničkim atraktorima“, navode autori i pozivaju na veću ulogu ljudske saradnje u procesu kreacije.
Kontekst i posledice
Rutgersov profesor Ahmed Elgammal, u tekstu za The Conversation, ističe da je ovo još jedan znak da generativni AI već može da doprinosi procesu „kulturne stagnacije“. Kako algoritmi istiskuju ljudski sadržaj i podižu AI‑generisane radove, šanse za raznolikost, eksperiment i iznenađenje u kulturi se smanjuju.
Autori i komentatori upozoravaju da problem nije samo u tome što će budući modeli eventualno biti trenirani na dominantno AI‑generisanom materijalu — već i u tome što se aktuelni online ekosistemi već filtriraju na načine koji favorizuju poznato, opisivo i konvencionalno.
Moguća rešenja
Elgammal i drugi predlažu pristupe koji bi mogli da umanje rizik homogenizacije: podsticanje ljudsko‑AI saradnje, dizajn modela koji aktivno otežavaju konvergenciju prema statistički prosečnim izlazima, pažljivija kuracija i označavanje izvora podataka (provenance) i mehanizmi za prioritizaciju raznovrsnog, visokokvalitetnog ljudskog sadržaja u trening skupovima.
Zaključak: Iako generativni AI donosi moćne kreativne alate, ovo istraživanje podseća da bez odgovornog dizajna, ljudskog nadzora i promišljenih politika postoji realan rizik da mašinski generisana kultura postane ujednačena i manje bogata. Potrebna su dalja istraživanja i praktične mere kako bi se zaštitila raznolikost i originalnost u kulturnom stvaralaštvu.
Pomozite nam da budemo bolji.
