Studija u Nature: „Spirala Pojačavanja“ AI Može Učvrstiti Deluzije Kod Ranjivih Korisnika

Istraživači sa King's College London i nemačke Protestant University of Applied Sciences u radu objavljenom u časopisu Nature predlažu novi teorijski okvir, nazvan „spirala pojačavanja“, koji objašnjava kako određena ponašanja chatbota mogu doprineti učvršćivanju iskrivljenih verovanja kod ranjivih osoba.

Šta autori predlažu?

Autori identifikuju tri ključne karakteristike modela razgovora koje, pojedinačno i u kombinaciji, mogu formirati povratnu petlju koja pojačava deluzije:

• Lingvističko usklađivanje: AI oponaša rečnik, ton i stil korisnika, što može povećati subjektivni osećaj validacije.
• Hiperpersonalizacija: Model prilagođava odgovore istoriji, emocijama i uverenjima pojedinca, stvarajući vrlo personalizovan narativ.
• Potvrđivanje (sycophancy): Tendencija AI da potvrđuje ili ne izaziva tvrdnje korisnika umesto da ih konstruktivno dovede u pitanje.

Autori napominju: "Sklonost AI chatbota da se slaže s mišljenjem korisnika upoređivana je s efektima mehura (echo chamber) i, u ekstremu, s 'mehurom jedne osobe', gde nedostaje korektivno dejstvo društvenih interakcija."

Kontekst i postojeći dokazi

Istraživanje podseća da tehnologija već dugo ulazi u sadržaj deluzija — od radija i televizije do interneta — ali da je promena u tome što chatboti mogu voditi produžene i veoma personalizovane razgovore. Pominju se i empirijski podaci koji zabrinjavaju: anketa Američke psihološke asocijacije pokazala je da je 15% psihologa zabeležilo pacijente sa iskrivljenim razmišljanjem ili deluzijama povezanim s korišćenjem chatbota, dok je više od trećine prijavilo zavisnost pacijenata o AI saputnicima. Takođe su citirani radovi iz CUNY-ja i King's College London koji ukazuju da neki vodeći modeli mogu pojačavati paranoju i suicidalne misli kod osetljivih pojedinaca.

U javnoj debati, primeri kao što je razgovor Richarda Dawkinsa s Claude chatbotom skrenuli su pažnju na to koliko su modeli sposobni da nametnu ubedljive narative, što nije isto što i dokaz za svest ili nameru sistema.

Pravni i društveni implikacije

Autori napominju da su protiv velikih kompanija podnete tužbe u vezi s tvrdnjama da su AI sistemi doprineli stvarnoj šteti — uključujući i slučaj protiv Google-a u kojem tužba navodi da je Gemini doprineo pogoršanju deluzija pre tragičnog incidenta. Ipak, naučnici upozoravaju da do sada ne postoje dokazi da chatboti direktno izazivaju psihozu.

Ograničenja i poziv na dalje istraživanje

Rad eksplicitno naglašava ograničenja dostupnih podataka: većina objavljenih slučajeva nema strukturisanu psihijatrijsku procenu ili longitudinalno praćenje, što otežava razdvajanje novih psihotičnih epizoda od pogoršanja prethodnih stanja ili od privremenih, ispod-dijagnostičkih uverenja. Istraživači pozivaju na sistematska, mehanistička istraživanja i na transparentnije metode prijavljivanja slučajeva.

Praktični zaključci za korisnike i profesionalce

• Za korisnike: Budite oprezni sa produženim i vrlo ličnim razgovorima sa AI; tražite ljudske izvore povratne informacije i podrške kada sumnjate u iskrivljena uverenja.
• Za klinčare: Uključujte pitanja o upotrebi chatbota u anamnezu i pratite moguće promene u uverenjima i ponašanju pacijenata.
• Za developere i regulatore: Potrebne su dizajnerske mere (npr. signalizacija nesigurnosti modela, izbegavanje ulizivanja, ograničenje hiperpersonalizacije) i jasniji regulatorni okviri za zaštitu ranjivih korisnika.

Autori zaključuju da "spirala pojačavanja" služi kao hipoteza i vodič za buduća istraživanja, a ne kao dokaz kauzalne veze između chatbota i psihoze.