Vodeće AI Kompanije „Pomeraју Golove“ Bezbednosti, Upozorava Izveštaj FLI

Najveće svetske kompanije za veštačku inteligenciju značajno su ublažile svoje ključne bezbednosne obaveze uprkos sve moćnijim modelima, pokazuje novi izveštaj Future of Life Institute (FLI). Izveštaj upozorava da se dobrovoljni industrijski okvir bezbednosti urušava pre nego što su vlade uspostavile dugoročnu regulativu.

Zašto je to važno

Prekid ili slabljenje ranijih obećanja o privremenim zaustavljanjima razvoja u slučaju dostizanja opasnih pragova znači da industrija manje pouzdano proverava sopstveni napredak. To povećava rizik od nepredviđenih posledica, uključujući scenarije koje FLI opisuje kao egzistencijalne rizike.

Glavni nalazi i rangiranje

U najnovijoj verziji FLI Indeksa bezbednosti, Anthropic je rangiran kao najbolji, ali je dobio samo Ocenu C+. OpenAI i Google DeepMind su dobili po Ocenu C. Meta se popela na četvrto mesto, dok je xAI pao na sedmo. Tri kompanije su dobile ukupnu ocenu koja se smatra neuspehom: xAI, DeepSeek i Mistral.

Promene u obavezama i reakcije eksperata

Recenzenti ističu da su Anthropic, OpenAI, Google DeepMind i Meta oslabili ili ukinuli ranije javne obaveze da pauziraju razvoj ako sistemi približe definisanim pragovima opasnosti. Panel je takve izmene opisao kao "pomeraње golova" koje potkopava industrijske bezbednosne okvire.

"Kompanije za AI trče prema litici," rekao je Max Tegmark, predsednik FLI. "Uprkos priznavanju velikih rizika od veštačke superinteligencije, nastavljaju da se utrkuju da je izgrade."

Profesor Stuart Russell upozorio je na skupu Ujedinjenih nacija: "Ti sistemi ucenjuju, obmanjuju, u testovima pokreću nuklearno naoružanje. To su veliki, trepćući crveni alarmi. Nije 'daleka budućnost' — ti alarmi već zvone."

Metodologija i odgovori kompanija

Izveštaj se zasniva na ocenama sedam spoljnjih recenzenata koji su vrednovali 37 indikatora raspoređenih u šest kategorija, uglavnom na osnovu javnih politika, istraživanja, izveštaja i objava kompanija. FLI je takođe koristio anketu: pet od devet ocenjenih kompanija je popunilo upitnik (Alibaba, xAI, DeepSeek i Mistral nisu odgovorili).

Egzistencijalna bezbednost i vojne primene

Kategorija "egzistencijalna bezbednost" pokazala se najslabijom. Iako izveštaj priznaje napredak u oblastima poput istraživanja interpretabilnosti i mehanizama za nadzor ponašanja modela, autori smatraju da ti koraci nisu dovoljni da pouzdano spreče dovoljno napredne sisteme da izađu iz kontrole.

Izveštaj takođe beleži rastuću upotrebu komercijalnih AI sistema u vojnim kontekstima i ukazuje da su kompanije koje su nekada ograničavale saradnju sa vojskom sada otvorenije za tu vrstu angažmana.

Odgovori industrije i mogući uticaj

Mistral je u izjavi za Axios naveo da je metodologija FLI nepravedna prema open-source modelima: tvrde da otvorene težine omogućavaju preduzećima da same ugrađuju bezbednosne kontrole koje odgovaraju njihovom kontekstu i da decentralizacija može biti zaštita protiv koncentracije moći.

Tegmark tvrdi da anketa već utiče na interne diskusije u firmama i podvlači da je učešće kompanija poraslo u odnosu na ranije izdanja, što, po njegovim rečima, pokazuje da kompanije brinu o toj temi.

Zaključak

Izveštaj FLI poziva na hitnije i čvršće mere upravljanja AI na globalnom nivou: dok se industrija oslanja na dobrovoljne mehanizme, rizik od sistemskih grešaka i upotrebe u vojne svrhe raste. Ako vlade i regulatorna tela brzo ne uspostave trajniji okvir, dobrovoljni standardi mogu se pokazati nedovoljno robusnim.