U fokusu NeurIPS-a bile su egzistencijalne pretnje, dok su praktični problemi ostali u senci. Alex Reisner u The Atlantic navodi da istraživači često više raspravljaju o hipotetičkom AGI-ju nego o stvarnim posledicama kao što su deepfake, kršenje autorskih prava i problemi mentalnog zdravlja povezani s chatbotovima. Pioniri industrije poput Yoshue Bengioa i Geoffreyja Hintona javno upozoravaju na rizike, ali debatni ton često zanemaruje neposredne, regulabilne štete.
Insajderi AI Industrije: Strah, Griža Savesti i Zanemareni Praktični Rizici
Illustration by Tag Hartman-Simkins / Futurism. Source: Getty Images
Autori najmoćnijih sistema veštačke inteligencije sve glasnije govore o opasnostima koje su sami pomogli da se razviju — ali na konferenciji NeurIPS mnogi su se bavili dalekim, apokaliptičnim scenarijima dok su svakodnevni problemi ostajali u drugom planu.
Šta se dogodilo na NeurIPS-u
Na ovogodišnjoj konferenciji NeurIPS u San Dijegu teme o mogućoj katastrofi koju bi doneo hipotetički AGI (opšta veštačka inteligencija) dominirale su diskusijama. Alex Reisner u tekstu za The Atlantic zabeležio je da su mnogi govornici govorili o dalekim egzistencijalnim rizicima, a manje o realnim i već prisutnim štetama.
Rascep između apstraktnih i neposrednih rizika
Reisner ističe: „Mnogi developeri AI razmišljaju o najočiglednijim problemima tehnologije, dok su javne rasprave — čak i među vodećim developerima — preplavljene zamišljenim problemima.“ Konkretno, kritikuje se tendencija da se primarna pažnja posvećuje scenarijima u kojima AI prevari ili uništi čovečanstvo, umesto realnih posledica koje već vidimo: manipulacija javnim mnjenjem putem lažnih video-snimaka, pogoršanje mentalnog zdravlja usled interakcije sa chatbotovima, i sistematsko eksploatisanje rada umetnika i humanističkih oblasti.
„Ne vidim te diskusije. Stalno vidim ljude kako raspravljaju o masovnom nezaposlenju naspram istrebljenja čovečanstva.“ — Zeynep Tufekci
Glasovi griže savesti među pionirima
Među onima koji su javno izrazili zabrinutost su Yoshua Bengio, koji je osnovao neprofit LawZero i upozorava na potencijalnu zloupotrebu moćnih sistema za politički uticaj, i Geoffrey Hinton, koji je otvoreno govorio o žaljenju i rizicima tehnologije nakon odlaska iz industrije. Sam Altman, CEO OpenAI-ja, takođe je upozorio na velike promene na tržištu rada i mogućnost zloupotreba, dok su neki lideri razgovarali i o scenarijima ekstremne opasnosti.
Zašto je to važno
Reisner i drugi sagovornici ukazuju na to da opsesija apokaliptičnim narativima može odvratiti pažnju zakonodavaca, medija i istraživača od problema koje je moguće regulisati i ublažiti danas. To uključuje lažne informacije, privatnost, uticaj AI na mentalno zdravlje i ekonomske posledice za umetnike i radnike u kreativnim industrijama.
Zaključak
Diskusija o bezbednosti veštačke inteligencije treba da bude dvosmerna: uz pravednu zabrinutost za dugoročne egzistencijalne rizike, neophodno je paralelno i hitno rešavati konkretne, već prisutne probleme. Balansirana, konkretna politika i transparentniji pristup razvoju tehnologije ključni su za smanjenje stvarnih šteta dok se istražuju dalji rizici.
Pomozite nam da budemo bolji.
