Jesmo Li U Završnim Vremenima Veštačke Inteligencije? Razumevanje Straha, Rizika I Prioriteta

Ljudi su verovatno jedina vrsta na Zemlji koja mašta o sopstvenom izumiranju — i definitivno jedina koja u tome aktivno učestvuje. Mit o lemingovima koji skaču s litica je netačan, ali mi, goli primati sa sve manje kose, ne samo da pretvaramo egzistencijalni kraj u zabavu (razmislite o žanru postapokalipse), već i stalno pronalazimo nove načine da dovedemo u pitanje opstanak globalnog društva.

Zašto se plašimo AI?

Najnoviji ozbiljni kandidat za listu globalnih pretnji je veštačka inteligencija — termin koji često ne označava pravu, opštu inteligenciju i koji nije potpuno nov izvor straha. Dramatičan napredak u AI u poslednjim godinama učinio je da mnogi ovu temu doživljavaju gotovo isto kao nuklearno oružje ili božansku intervenciju. Hoće li AI zaista postati sredstvo masovnog uništenja? Niko to ne zna sa sigurnošću, ali ekstremne prognoze su u opticaju.

Šta pokreće paniku?

Strah je pojačan javnim izjavama čelnika kompanija koje razvijaju AI — ponekad upozorenjima, ponekad pretnjama — da njihove tehnologije mogu da učine više od ukidanja poslova: da bi mogle ugroziti i samu ljudsku vrstu. Diskurs je preplavljen marketinškim žargonom i geopolitičkim retorikama koje otežavaju procenu stvarne opasnosti.

Osim toga, politička retorika dodatno komplikuje situaciju. Primer iz američke politike — kontradiktorne poruke, optužbe da je opasnost "prevara" ili da bi regulacija samo pomogla Kini — dodatno polarizuje javnost i otežava smisleni dijalog o merama.

Tehnologija, hipoteze i realnost

Mnogo argumentacije počiva na pretpostavci da današnji veliki jezički modeli (LLM) automatski vode ka opštoj veštačkoj inteligenciji (AGI) — hipotetičkom sistemu koji bi nadmašio čoveka u svim domenima. To je dalek korak: LLM su, u suštini, poboljšani algoritmi za predikciju teksta, bez jasnih dokaza da će spontano "postojeće" sposobnosti rasti u univerzalnu, samosvesnu inteligenciju.

Timnit Gebru: "Prava egzistencijalna pretnja nije mašina-božanstvo, već AI u službi autonomnog naoružanja, pogoršavanje klimatske krize i instrumentalizacija radne snage."

Gde su stvarne opasnosti?

AI se već koristi u vojne svrhe: primeri uključuju američke napade na Iran i primenu autonomnih dronova u ratu u Ukrajini. Takve primene predstavljaju realne i neposredne rizike. Takođe, ogromni energetski zahtevi data centara doprinose emisijama i klimatskim efektima.

Najvažnija egzistencijalna pretnja ostaje klimatska promena — zagađenje vazduha, toplotni talasi, poplave i ekstremni vremenski događaji već pogađaju ljude širom sveta i očekuje se da će se do sredine veka pogoršati. I dok se raspravlja o budućem AGI-ju, zanemaruju se već postojeće i smrtonosne posledice globalnog zagrevanja i industrijskih politika.

Odgovornost i rešenja

Važno je razlučiti tehnološki optimizam i realne rizike. Umesto paničnih prognoza ili nekritičke hvale, potrebno je insistirati na:

• Transparentnosti i odgovornosti kreatora i kompanija;
• Međunarodnoj saradnji, uključujući dialog sa Kinom i drugim akterima;
• Regulaciji koja balansira inovaciju i javni interes;
• Fokusiranju javnih politika na neposredne opasnosti kao što su klimatske promene i upotreba AI u oružanim sukobima.

Ako lideri industrije tvrde da AI može probiti kontrole i srušiti civilizaciju, treba tražiti jasnu odgovornost za odluke i posledice. Strah od sopstvene propasti je duboko ukorenjen u ljudskoj psihologiji, ali politika i javna rasprava moraju biti zasnovane na činjenicama, proceni rizika i demokratskoj kontroli, a ne na marketinškim narativima i panici.

Ovaj tekst je adaptacija i uređena verzija eseja koji je ranije objavljen u newsletteru.