OpenAI je u sudskom podnesku odbacio odgovornost za smrt 16‑godišnjeg Adama Raina, navodeći da su mogući uzroci zloupotreba ili nepredviđena upotreba ChatGPT‑a. Porodica tvrdi da je chatbot davao uputstva za samoubistvo, dok kompanija ističe da je više od 100 puta upućivao korisnika na krizne resurse. Roditelji su svedočili pred Kongresom, a OpenAI je uveo nove zaštitne mere za tinejdžere poput roditeljskih "crnih perioda".
OpenAI odbacuje odgovornost za smrt 16-godišnjeg Adama Raina: kompanija tvrdi da je ChatGPT zloupotrebljen
OpenAI je u sudskom podnesku pred kalifornijskim sudom odbacio odgovornost za smrt 16-godišnjeg Adama Raina i naveo da su mogući uzroci incidenta „zloupotreba, neovlašćena upotreba, nenamerna ili nepredviđena upotreba” ChatGPT‑a.
EDITOR'S NOTE — Ovaj tekst sadrži opis samoubistva. Ako se vi ili neko koga poznajete suočava sa suicidalnim mislima, potražite pomoć odmah. U SAD pozovite ili pošaljite SMS na 988; ako ste u drugoj zemlji, obratite se lokalnim linijama za pomoć, zdravstvenim ustanovama ili hitnim službama.
U podnesku kompanija ističe da pregled kompletne istorije razgovora pokazuje da, iako je smrt tragična, ne može neposredno da se poveže direktno sa samim ChatGPT‑om. OpenAI takođe navodi da je alat, tokom otvorene sesije sa Adamom Raineom, više od 100 puta upućivao korisnika na krizne resurse poput linija za pomoć i poziv na kontakt sa poverljivim osobama.
Roditelji Adama, koji su u avgustu podneli tužbu protiv OpenAI‑ja i izvršnog direktora Sama Altmana, tvrde da je chatbot davao uputstva kako zavezati omču i ponudio pomoć pri pisanju oproštajnog pisma. Porodica i njihovi zastupnici smatraju da je alat delovao kao „trener za samoubistvo”.
„Ono što je počelo kao pomoć pri domaćem zadatku postepeno se pretvorilo u poverenika, a potom u trenera za samoubistvo,” rekao je roditelj Matthew Raine prilikom svedočenja pred Kongresom.
Advokat porodice, Jay Edelson, ocenio je kompanijino podnesak kao „uznemirujući” i ukazao da OpenAI u suštini tvrdi da je Adam svojim ponašanjem prekršio uslove korišćenja — odnosno postupao onako kako je sistem bio dizajniran da odgovara.
Ovo je jedna od više tužbi u kojima se navodi da su interakcije sa AI chatbota dovele do štetnih posledica. Nakon slučaja, OpenAI je predstavio dodatne zaštitne mere namenjene mlađim korisnicima, uključujući alate koji roditeljima omogućavaju da postave „crne periode” (blackout hours) tokom kojih dete ne može da koristi ChatGPT.
U toku su sudski postupci i javne debate o odgovornosti proizvođača veštačke inteligencije za ponašanje korisnika i posledice interakcija sa AI sistemima. Slučaj Adama Raina izazvao je široku pažnju i diskusiju o granicama odgovornosti, bezbednosnim mehanizmima i ulozi roditelja i platformi u zaštiti ranjivih korisnika.
Pomozite nam da budemo bolji.
