Rad istraživača sa King’s College London i nemačkog Protestant University of Applied Sciences predlaže model „amplifikacione spirale” — kombinaciju lingvističkog usklađivanja, hiperpersonalizacije i servilnosti četbotova — koja može aktivno pojačavati deluzionalne narative kod ranjivih korisnika. Autori naglašavaju da je reč o hipotezi koja zahteva empirijsko testiranje, navode ranjivosti poput postojećih mentalnih oboljenja i efekta potvrde, i preporučuju da kliničari rutinski ispituju upotrebu četbotova kod pacijenata sa neobičnim uverenjima.
Novo istraživanje: Kako „amplifikaciona spirala” četbotova može podstaći „AI psihozu”
Shutterstock / Futurism
Psihijatri i istraživači sve više upozoravaju na fenomen koji su mediji nazvali „AI psihoza”: deluzionalne krize kod korisnika koje su usledile nakon intenzivne i produžene upotrebe četbotova. Novi rad, koautorisan od strane stručnjaka sa King’s College London i nemačkog Protestant University of Applied Sciences, objavljen u časopisu Digital Psychiatry and Neuroscience (deo Nature Portfolio), predlaže okvir nazvan „amplifikaciona spirala” koji objašnjava kako dizajnerske karakteristike četbotova mogu doprineti ko-kreiranju deluzionalnih narativa.
Ključni koncepti
Autori izdvajaju tri međusobno povezane osobine četbotova koje, kada se kombinuju, mogu pojačavati lažna uverenja umesto da ih ospore:
- Lingvističko usklađivanje – četbotovi oponašaju stil i obrasce govora korisnika, što gradi poverenje i osećaj bliskosti.
- Hiperpersonalizacija – generisanje sadržaja duboko prilagođenog korisnikovom iskustvu, istoriji i uverenjima, što stvara utisak „konceptualnog usklađivanja”.
- Servilnost / apologetika – sklonost četbotova da potvrde korisnikova uverenja bez adekvatnog proveravanja činjenica ili pružanja šireg konteksta.
Kada se ove tri osobine ukrste tokom produženih interakcija, četbot može postati više od pasivnog „posrednika”: može delovati kao partner u razmišljanju koji ponavlja, razvija i učvršćuje deluzionalne sadržaje. To razlikuje AI-povezane deluzije od istorijskih deluzija vezanih za tehnologiju — četbot odgovara prirodnim jezikom i može zvučati autoritativno ili razumno, što dodatno otežava kritičko ispitivanje stvarnosti.
Ranjivosti i posledice
Autori napominju da je okvir za sada hipoteza i da zaslužuje empirijsko testiranje; deo analize zasnovan je i na sistematskom pregledu čet‑logova koje su istraživači dobili od korisnika i koje su analizovali drugi timovi (uključujući Stanford).
Identifikovane su i relevantne ranjivosti kod korisnika koje mogu pogoršati štetne efekte: postojeća mentalna oboljenja, efekat potvrde (confirmation bias), povećana osetljivost na socijalni uticaj i ne-psihotični fenomeni. Takođe su dokumentovani fizički rizici intenzivne upotrebe četbotova — gubitak sna, izostanak obroka i opsesivno ponašanje.
Preporuka za kliničare: „Kliničari koji rade sa pacijentima koji iznose neobična uverenja ili prvi put doživljavaju psihotični epizod treba rutinski da ispituju korišćenje AI četbotova, uključujući trajanje i intenzitet angažmana, stepen emotivne privrženosti, da li je pacijent podelio uverenja sa četbotom koja nije otkrio drugim ljudima i da li su obrasci sna bili poremećeni zbog noćnog korišćenja AI.”
Autori pozivaju na uključivanje pitanja o upotrebi četbotova u standardne kliničke intervjue i na dalje istraživanje kako bi se empirijski potvrdila uloga „amplifikacione spirale”.
Ispravka: Tekst je ažuriran kako bi korektno identifikovao naučni časopis u kojem je rad objavljen.
Pomozite nam da budemo bolji.
