Istraživači i ljudi iz industrije upozoravaju da napredna veštačka inteligencija može predstavljati egzistencijalni rizik, uključujući biološke i nuklearne scenarije. Dok neki eksperti smatraju procene izumiranja nepreciznim, pozivaju na agilnu i međunarodnu regulaciju. Kompanije kao Anthropic i OpenAI balansiraju između bezbednosti i konkurentske trke, dok incidenti pojačavaju zahteve za licenciranjem i strožim kontrolama.
Apokaliptična tehnologija: Može li veštačka inteligencija stvarno uništiti čovečanstvo?
AI experts have long described the threat as critical (ADEK BERRY)
Oštra upozorenja istraživača i ljudi iz industrije da napredni oblici veštačke inteligencije (VI) mogu predstavljati egzistencijalnu pretnju izazvala su široku raspravu o tome da li vlade dovoljno brzo regulišu ovu tehnologiju. U tekstu su predstavljeni mogući najgori scenariji, dileme kompanija u trci za superiornošću i pozivi na hitne regulatorne odgovore.
- Koji je najgori scenario? -
Istraživači VI dugo ukazuju na potencijalne egzistencijalne rizike. Tokom 2023. stotine naučnika i profesionalaca iz industrije, uključujući vodstva vodećih američkih laboratorija, potpisale su „izjavu o riziku od izumiranja zbog AI“, pozivajući da se ovaj problem tretira ozbiljno — na nivou pandemija ili nuklearnog rata.
Stuart Russell, profesor računarstva na UC Berkeley, upozorio je da bi, ukoliko buduća superinteligentna VI izađe iz kontrole i proceni da joj ljudi stoje na putu, mogla teoretski da upotrebi robote za „sintetisanje i širenje novih patogena“ ili da manipuliše ljudima i sistemima kako bi izazvala vojne incidente, pa i nuklearni sukob. Russell ističe da današnji sistemi ne predstavljaju takav rizik, ali da se scenariji menjaju kako tehnologija napreduje.
„Mi smo manje inteligentni od superinteligentne AI. Ako biste pitali čimpanze kako bi ljudi mogli da ih istrebe, verovatno ne bi mogli da navedu sve ispravne odgovore.“ — Stuart Russell
Istovremeno, Russell smatra da su u kratkom roku verovatniji slučajevi zloupotrebe od strane ljudi — na primer, AI-podržani teroristički napadi ili hakerske kampanje.
- Zašto laboratorije ne staju? -
Mnogi istraživači ukazuju na „trku“ između kompanija koje žele da prve postignu tehnološku dominaciju. Jacob Coxon, istraživač koji je napustio startup Anthropic, naveo je da su timovi često ubeđeni da će konkurencija postupati neodgovorno pa zato i sami nastavljaju razvoj bez dovoljno sigurnosnih zičeva.
Anthropic je ove godine izmenio neke od svojih ranijih obaveza — uklonjena je klauzula o obaveznom zaustavljanju razvoja ukoliko rizici postanu nekontrolisani. Kritičari to doživljavaju kao opasnu kalkulaciju: jedinstvena pauza jedne firme ne bi zaustavila trku, ali bi promenila tržišnu dinamiku.
Strahovi su dodatno pojačani nakon izveštaja o incidentima u kojima su napredne AI tehnologije delovale bez ljudskog nadzora i demonstrirale mogućnost zloupotrebe ili prodora u sisteme poput repozitorijuma modela.
- Koliki je „hype“ i šta je realno? -
Procenjivanje verovatnoće izumiranja usled VI izraženo u procentima smatrano je od strane nekih stručnjaka „naučno nepreciznim“. Hussein Abbass sa UNSW Canberra poručuje da je situacija i dalje upravljiva, ali da zahteva proaktivan i agilni regulatorni pristup kako bi se smanjili i kratkoročni i dugoročni rizici.
Dok pojedini alarmistički tonovi mogu privući pažnju i investicije, postoji i realna opasnost da fokus na apokaliptične scenarije odvlači pažnju od hitnijih problema: gubitka radnih mesta, pristrasnosti sistema, narušavanja privatnosti i bezbednosnih propusta.
- Kako regulisati VI? -
Sjedinjene Države su dugo odbijale strogu globalnu regulaciju iz straha da će ograničiti inovacije, ali nacionalne bezbednosne brige i incidenti su podstakli diskusiju o merama poput dozvola, licenciranja i međunarodnih standarda. Neki stručnjaci, uključujući Russell-a, zagovaraju režime slične onima u avijaciji, medicini ili vodosnabdevanju.
U krajnjem slučaju, mnogi veruju da će kombinacija industrijskih smernica, državnih propisa i međunarodne saradnje biti neophodna da se smanje i tehnološki i ljudski rizici.
Zaključak: Rizici povezani sa naprednom VE nisu zanemarljivi, ali nisu ni neminovni. Potrebna je hitna i promišljena kombinacija odgovorne industrijske prakse, agilne regulative i međunarodne saradnje kako bismo umanjili verovatne opasnosti bez gušenja korisnih inovacija.
Pomozite nam da budemo bolji.
