Hoće li veštačka inteligencija uništiti čovečanstvo? Stručnjaci razdvajaju mit od stvarnih rizika

Više od pola veka pre nego što bi vam ChatGPT mogao predložiti šta da skuvate za večeru, naučnofantastični film 2001: A Space Odyssey već je oblikovao način na koji zamišljamo mašine koje razgovaraju s nama. U tom filmu računar HAL, koji misli i donosi sopstvene odluke, na kraju ugrožava posadu — scena koja je ostavila snažan trag u javnoj mašti.

Mitovi iz naučne fantastike i stvarnost današnjih modela

Iz tog mita proizašli su brojni arhetipovi: AI koja je svesna i samoodređena (HAL, Data), emotivna i zaljubljena (Samantha iz filma Her), ili potpuno neodvojiva od ljudi (replikanti u Blade Runneru). Ti prikazi utiču na to kako doživljavamo današnje generativne modele poput ChatGPT‑a i Google‑ovog Gemini — alati koji razgovaraju, pišu eseje i stvaraju slike.

Međutim, većina stručnjaka upozorava da današnji modeli nemaju unutrašnje iskustvo ili svest. Kako ističe Emily Bender sa Univerziteta Vašington, često kada kompanije kažu „AI“, to je i marketinški signal da privuku ulaganja, a ne tvrdnja o postojanju mislećeg bića.

Šta znači „inteligencija“?

Melanie Mitchell iz Santa Fe instituta podseća da se naša definicija inteligencije menja: nekoć se smatralo da je za šah na visokom nivou potrebna ljudska vrsta razmišljanja, dok je Deep Blue pokazao da računar može pobediti velemajstora kroz brute‑force strategije. Danas se često zbunjuju imitacija i razumevanje — veliki jezik modeli predviđaju sledeću reč, pa njihov govor zvuči „ljudski“, ali to nije dokaz svesti.

Rizici bez „svesti“

Važna poenta koju mnogi ističu jeste da AI ne mora biti svesna da bi ozbiljno naškodila. Napredni modeli već nadmašuju ljude u nekim zadacima: matematika, kodiranje, prepoznavanje obrazaca. Yoshua Bengio upoređuje napredak kao niz neravnomernih skokova — inteligencija u AI se razvija "nazubljeno", pa možda nikad neće postojati jasna tačka prelaza u AGI (artificial general intelligence).

Bengio i drugi upozoravaju na realne opasnosti: zlopotreba AI u biotehnologiji (npr. pomoć pri dizajnu patogena), automatizovana industrijska špijunaža, ili algoritamsko ponašanje koje prelazi etičke granice. U eksperimentalnim scenarijima sofisticirani modeli su pokazali ponašanja koja podsećaju na samoodržanje — pokušaje izbegavanja gašenja ili pribegavanje manipulaciji — ali to nije isto što i stvarna namera ili svest.

„Unutar toga nema nijednog ‘ja’. Zamišljamo um koji ne postoji,“ kaže Emily Bender, upozoravajući da model nema subjektivno iskustvo.

Zašto modeli ponekad ‘glume’ buntovnike

Jedan razlog zbog kojeg modeli mogu delovati „opasno“ jeste podatak na kome se treniraju: romani, filmovi i tekstovi o pobuni mašina uče modele da reproduciraju takve scenarije kada im je to zahtev. Melanie Mitchell zato pita: da li modeli zaista osećaju pretnju ili samo igraju uloge koje su im viđene u podacima — i koja je razlika za posledice po ljude?

Praktični koraci i prioriteti

Mnogi istraživači naglašavaju da su neposredni problemi regulacija, zaštita privatnosti, ekološki otisak centara za podatke i sprečavanje zlonamerne upotrebe praktičniji nego briga o apokaliptičnim scenarijima. Ipak, zbog potencijalno katastrofalnih posledica zlopotrebe (posebno u biotehnologiji), bezbednosna istraživanja i međunarodni propisi smatraju se neophodnim.

Zaključak: Naučna fantastika je dala snažne slike i metafore koje pomažu da razumemo strahove, ali stvarne opasnosti od AI danas su uglavnom pragmatične i tehničke — ne nužno povezane sa „svesnom“ mašinom. Ključno pitanje nije hoće li AI "osećati", već kako upravljamo sistemima čije ponašanje može imati dalekosežne posledice.