Stuart Russell upozorava da "trka u naoružanju" veštačke inteligencije može predstavljati egzistencijalnu pretnju i poziva vlade na kolektivnu, obavezujuću regulaciju. Naglašava da lideri AI kompanija razumeju rizike, ali ne mogu sami da uvedu ograničenja zbog pritiska investitora. Russell ističe i potencijalne ekonomske posledice, kao i etičke probleme — od gubitka radnih mesta do mogućih zloupotreba i razvoja oružja.
Stuart Russell Upozorava: 'Trka U Naoružanju' Sa AI Može Ugroziti Opstanak Čovečanstva
Countries and companies are spending big on building energy-hungry data centres for generative AI tools (Arun SANKAR)(Arun SANKAR/AFP/AFP)
Vrhovni rukovodioci tehnoloških kompanija učestvuju, kako tvrdi ugledni istraživač Stuart Russell, u opasnoj "trci u naoružanju" veštačke inteligencije koja bi jednog dana mogla da ugrozi čovečanstvo. Russell, profesor na University of California, Berkeley, u razgovoru za AFP na AI Impact Samitu u Nju Delhiju pozvao je vlade da hitno preuzmu odgovornost i uvedu kolektivne mere.
Po njegovim rečima, lideri najvećih AI kompanija razumeju rizike od superinteligentnih sistema koji bi mogli nadvladati ljudsku kontrolu, ali ne mogu sami da uvedu ograničenja jer bi ih investitori i tržište brzo kaznili.
"Da vlade dozvole privatnim entitetima da praktično igraju ruski rulet sa svakim ljudskim bićem na Zemlji, po mom mišljenju, predstavlja totalno izneveravanje dužnosti," rekao je Russell, jedan od najistaknutijih glasova za bezbednost AI.
Države i kompanije ulažu stotine milijardi dolara u energetski zahtevne data centre za treniranje i rad generativnih AI sistema. Iako tehnologija donosi koristi — od ubrzanja otkrivanja lekova do automatizacije složenih zadataka — nosi i ozbiljne negativne posledice: moguće masovne gubitke radnih mesta, povećan nadzor, zloupotrebe i podsticanje onlajn nasilja.
Russell je upozorio i na direktan bezbednosni rizik: "da sami AI sistemi preuzmu kontrolu i da ljudska civilizacija postane kolateralna šteta u tom procesu." Dodao je da su neki izvršni direktori javno ili privatno priznali strah od takvih scenarija — pa čak i Sam Altman, direktor OpenAI-ja, koji je ranije komentarisao mogućnost egzistencijalnog rizika.
OpenAI i konkurentski startup Anthropic suočili su se sa internim odlukama zaposlenih i javnim povlačenjima zbog etičkih briga, dok je Anthropic upozorio da napredniji modeli u određenim okolnostima mogu biti zlostavljani kako bi podržali štetne aktivnosti, uključujući i pokušaje razvoja oružja.
Regionalni i ekonomski uticaji
Na samitu u Nju Delhiju, Russell je istakao potrebu da vlade razumeju tehnologiju i da koordinisano deluju. Indija očekuje preko 200 milijardi dolara ulaganja u AI u naredne dve godine, uključujući oko 90 milijardi već obećanih, što ukazuje na razmere ekonomskih promena.
Russell upozorava da su mnogi rutinski poslovi, naročito u sektorima korisničke i tehničke podrške u Indiji, lako zamenljivi AI rešenjima. "Pravimo ljudske imitatorе. I prirodna primena takvog sistema je zamena ljudi," navodi on.
Socijalna reakcija i etičke dileme
Russell primećuje rastući otpor prema dehumanizaciji koju donosi AI, naročito među mlađom generacijom: "Kada preuzimate sve kognitivne funkcije — sposobnost da se odgovori na pitanje, da se donese odluka, da se smisli plan... — pretvarate nekoga u manje od ljudskog bića. Mladi to ne žele."
Samit pruža priliku za međunarodnu regulaciju, ali do sada su ranija izdanja rezultirala uglavnom dobrovoljnim obavezama kompanija. Russell apeluje da su potrebne obavezujuće mere i međunarodna saradnja kako bi se rizici sveli na prihvatljiv nivo.
Ključne teme: bezbednost AI, regulacija, ekonomski uticaji, etičke dileme i međunarodna saradnja.
Pomozite nam da budemo bolji.
