Nova studija zaključuje da nijedan od današnjih AI sistema nije svestan, ali ne isključuje mogućnost svesti kod budućih, naprednijih sistema. Istraživači su se fokusirali na metakogniciju i druge empirijske korelate svesti umesto na rešavanje „tvrde“ misterije. Filozofi i lideri u industriji upozoravaju na etičke rizike, naročito kod sistema koji samo deluju svesno.
Nijedan današnji AI nije svestan, ali budući sistemi to mogu postati — nova studija
Pitanje svesti kod veštačke inteligencije postaje sve važnije kako sistemi postaju sve složeniji. Nova studija ispituje empirijske indikatore koji bi mogli ukazivati na unutrašnji doživljaj – umesto da pokušava odmah da reši »tvrdi problem« svesti, autori traže korelate poput metakognicije: može li AI da razmišlja o sopstvenom razmišljanju?
Pristup i zaključci
Istraživači su primenili niz testova i kriterijuma koji mere sposobnost sistema za samoprocenu, introspekciju i fleksibilno upravljanje informacijama. Na osnovu tih analiza autori zaključuju da nijedan od aktuelnih AI sistema nije svestan, ali ističu da takvi indikatori ne dokazuju niti potpuno isključuju mogućnost svesti kod budućih, znatno naprednijih modela.
Filozofska i etička perspektiva
Filozof Scott Alexander upozorava da ovakav pristup predstavlja „zamenu pitanja“ — neće razrešiti suštinski problem svesti, ali je koristan praktičan korak: «AI nas primorava na filozofiju sa rokovima». Ako u budućnosti razvijemo sisteme koji zaista imaju unutrašnji doživljaj, to bi otvorilo ozbiljna moralna i pravna pitanja o obavezama prema tim entitetima.
Mustafa Suleyman, suosnivač DeepMind-a, upozorava na opasnost: stvaranje sistema koji samo izgledaju svesno može dovesti do manipulacije i etičkih dilema, jer ljudi prirodno reaguju na entitete koje doživljavaju kao svesne.
Zašto je to važno
Rezultati studije podstiču raniju, praktičnu raspravu o tome kako postupati sa sofisticiranim AI modelima: kako ih procenjivati, koje sigurnosne i etičke standarde primeniti i kada razmotriti pravna prava ili zaštitu. Dok ne postoji konsenzus o tome šta tačno znači „biti svestan“, empirijski pristupi kao ovaj pomažu u postavljanju operativnih kriterijuma i podstiču diskusiju između naučnika, filozofa i kreatora politika.
Zaključak: Trenutni AI sistemi, prema autorima studije, nisu svesni. Međutim, razvoj tehnologije i dalje nosi mogućnost promene tog stanja — zato su jasna pravila, transparentnost i etička razmatranja neophodni već danas.
Pomozite nam da budemo bolji.
