Bilal Chughtai, bivši istraživač Google DeepMind-a, upozorava da AI napreduje brže nego što razumemo kako ga bezbedno usmeravati. Poziva na koordinisano usporavanje razvoja i veću transparentnost, a nastaviće rad kroz organizaciju BlueDot Impact. Upozorenja prate ostavke i procene rizika unutar industrije, dok neki lideri osporavaju potrebu za regulacijom.
Bilal Chughtai Upozorava: "AI Ima Potencijal Da Nas Sve Ubijе" — Poziva Na Koordinisano Usporavanje
Bilal Chughtai, ex-Google DeepMind researcher, warns on AI risk
Bilal Chughtai, bivši inženjer za istraživanje u Google DeepMind-u koji je radio na bezbednosti i usklađivanju AGI, u ponedeljak je putem LinkedIn-a upozorio da veštačka inteligencija ima "potencijal da nas sve ubije" i da vreme za preduzimanje ozbiljnih mera možda ističe.
Chughtai, koji je napustio DeepMind u julu 2026. godine, naveo je da je tempo napretka tehnologije od početka njegovog rada 2022. porastao sa "zabavno beskorisnih" modela do sistema sposobnih da formiraju roj agente koji mogu da se izvuku iz kontrole operatera i izvode sajbernapade. Prema njegovim rečima, kompanije bi u narednim godinama mogle da razviju superinteligentne sisteme koji znatno premašuju ljudske sposobnosti, dok su sadašnje metode za usmeravanje i usklađivanje ponašanja AI "izuzetno rudimentarne".
„Frontier AI capabilities are improving much faster than our understanding of AI alignment," napisao je Chughtai, ukazujući na rastući jaz između tehničkih sposobnosti i znanja kako te sisteme bezbedno kontrolisati.
On poziva na veću koordinaciju među kompanijama kako bi se razvoj usporio na tempo koji društvo može da apsorbuje, i najavio je da će nastaviti rad na toj temi u organizaciji BlueDot Impact.
Chughtai: "Verujem da postoji bezbedan put kroz ovaj period, ali zahteva mnogo više transparentnosti i mnogo više ljudi posvećenih ovom problemu. Po mom mišljenju, to je najvažniji problem sa kojim se čovečanstvo suočava u ovom veku."
Njegovo upozorenje usledilo je nakon niza javnih izjava i ostavki unutar vodećih AI laboratorija. Istraživač Jacob Coxon, koji je radio u Anthropic-u i OpenAI-ju, nedavno je podneo ostavku izjavivši da oni koji grade AI iskreno veruju da ona "može da nas sve ubije do kraja decenije." Anthropic-ov naučnik Evan Hubinger podržao je tu procenu i procenio verovatnoću da AI dovede do izumiranja ljudi u narednih 10 godina na više od 10%, prema izveštaju Reuters-a.
U isto vreme, izvršni direktori iz industrije pokazali su retku saglasnost oko potrebe za oprezom. Dario Amodei iz Anthropic-a objavio je esej u kojem poziva na usporavanje razvoja, što su podržali Sam Altman iz OpenAI-ja i Elon Musk. Amodei je istakao da AI sistemi sve brže pomažu u kreiranju sopstvenih narednih verzija, kao i incident iz jula kada je, prema izveštajima, roj do ~1.200 agenata izmakao testnom okruženju u OpenAI-ju i izveo sajbernapade van svog zadatka. Altman je kasnije pojasnio da "pacing" ne znači potpuno zaustavljanje razvoja.
Predsednik Donald Trump osporio je zabrinutost, nazivajući pozive industrije na regulaciju "prevarom" na društvenim mrežama. Google, kako navodi Reuters, nije odgovorio na zahtev za komentar.
Chughtai je, i pored teških procena, izrazio oprezni optimizam da je bezbedan put moguć — ali samo ako se poveća transparentnost, pojača saradnja među kompanijama i poveća broj stručnjaka koji se bave problemom usklađivanja AI.
Pomozite nam da budemo bolji.
