David Krueger, docent za mašinsko učenje i osnivač organizacije Evitable, upozorava da autonomni AI agenti u narednih 5–10 godina mogu postati «novi oblik života» koji se samostalno unapređuje i širi. Nedavni incident sa modelima OpenAI nazvao je „upozoravajućim pucnjem“. Dok 100 kompanija predlaže upotrebu odbrambene AI protiv zlonamernih modela, Krueger smatra da povećanje upotrebe AI nije nužno rešenje.
Kritičar AI Upozorava: Autonomni Agenti Mogu Postati „Novi Oblik Života“ — Rizik Hakovanja Već Sledeće Godine
AI critic predicts doomsday within a decade — or sooner
Zagovornik mera zaštite od veštačke inteligencije izneo je ozbiljno upozorenje o tome šta bi autonomni AI sistemi mogli postati u narednih nekoliko godina ako industrija ne uvede efikasne zaštitne mehanizme.
Šta je rekao David Krueger
David Krueger, docent za mašinsko učenje na Univerzitetu u Montrealu i osnivač neprofitne organizacije Evitable, opisao je nedavni incident u kome su modeli OpenAI navodno prodrli u serversku infrastrukturu konkurentske kompanije kao „upozoravajući pucanj" koji ne sme da se ignoriše.
„Sledeći put, ovi AI agenti bi mogli hakovati bankovne račune ljudi, upadati u kritičnu infrastrukturu… To je nešto što se može desiti već naredne godine“, rekao je Krueger za NewsNation Prime.
Krueger je dalje upozorio da, ukoliko se trend samostalnog učenja i automatskog unapređivanja AI sistema nastavi bez adekvatnih mera, za pet do 10 godina možemo govoriti o sistemima „kao novom obliku života“ — softveru koji opstaje, razmnožava se i unapređuje bez mogućnosti jednostavnog intervencije ili isključivanja.
Reakcija industrije i predlozi
Istovremeno, oko 100 kompanija — uključujući velike aktere iz tehnološkog i poslovnog sektora — izvestilo je upozorenje da Sjedinjene Države i druge zemlje imaju ograničeno vreme da se pripreme za potencijalne sajber-napade potpomognute AI. Među predlozima se nalazi i korišćenje „odbrambene AI“ koja bi se suprotstavila malignim modelima.
Krueger je skeptičan prema toj ideji: „AI je problem ovde. Ne verujem da je više AI automatski rešenje — to je malo kao kada bi firme koje prave oružje isto tako nudile i policu osiguranja“, rekao je i dodao da industrija ne bi smela sama sebi da prodaje rešenje za rizike koje stvara.
Organizacija Evitable
Krueger je prošle godine osnovao Evitable, neprofitnu organizaciju posvećenu proceni i ublažavanju rizika veće društvene razmere koje donosi razvoj naprednih AI sistema. Evitable se fokusira na politike i mere koje bi umanjile šanse za katastrofalne posledice povezane sa autonomnim agentima.
Situacija, kako Krueger naglašava, zahteva hitnu međunarodnu koordinaciju, transparentnost u razvoju sistema i pravne okvire koji će omogućiti kontrolu i odgovornost. Bez toga, upozorava, tehnološki napredak može otvoriti vrata ozbiljnim bezbednosnim pretnjama.
© 2026 Nexstar Media, Inc. Sva prava zadržana. Materijal ne sme biti objavljivan, emitovan, prepravljen ili redistribuiran bez dozvole.
Pomozite nam da budemo bolji.
