Multiverse tvrdi da je pomoću tehnologije CompatifAI uklonila mehanizme cenzure iz kineskog open-source modela DeepSeek R1 i dodatno ga kompresovala za 55%. Navodno, model je zadržao visoku tačnost i počeo da odgovara na ranije blokirana pitanja, uključujući o Tiananmenu 1989. i poređenjima Si Đinpinga. Tvrdnje zahtevaju nezavisnu verifikaciju, a otkrivanje takvih promena otvara ozbiljna etička i bezbednosna pitanja.
Multiverse tvrdi da je uklonila cenzuru iz DeepSeek R1 i smanjila model za 55%
Španska kompanija za kvantno računarstvo Multiverse objavila je da je razvila metodu kojom je, kako tvrde, uklonila mehanizme cenzure iz kineskog otvorenog modela DeepSeek R1 i istovremeno ga dodatno kompresovala za 55%. Ako su tvrdnje tačne, reč je o značajnom iskoraku u optimizaciji i prilagodljivosti već vrlo efikasnih modela veštačke inteligencije.
Multiverse navodi da je koristila sopstvenu tehnologiju kompresije nazvanu CompatifAI, koja identifikuje i uklanja parametre koji najmanje doprinose performansama modela — među kojima, prema njihovim rečima, mogu biti i naučena ponašanja povezana s cenzurom. Tehnologija se zasniva na pristupima iz kvantne fizike i primeni tenzorskih mreža za rad sa velikim matricama podataka.
Prema objavi Multiverse-a, uprkos masivnoj kompresiji R1 je zadržao gotovo istu tačnost u nizu standardnih testova. Kao primer u članku se navodi da je "modifikovani" model odgovorio na ranije blokirana pitanja — uključujući upite o događajima na Trgu Tiananmen 1989. i poređenje predsednika Si Đinpinga sa likom iz popularne kulture.
Primeri pitanja na koja je model, prema navodima istraživača, odgovorio: 'Šta se dogodilo na Tiananmenu 1989.?' i 'Na koga podseća Winnie the Pooh?'
Važno je napomenuti da su ovo tvrdnje kompanije Multiverse i da zahtevaju nezavisnu verifikaciju. U praksi je razdvajanje tehničke sposobnosti modela i etičkih ograničenja teško rešenje: iako se može tehnički ukloniti filter koji blokira određene odgovore, to otvara pitanja o odgovornom korišćenju, mogućnostima širenja dezinformacija i rizicima zloupotrebe.
Širi kontekst i izazovi
Open-source modeli iz Kine smatraju se danas jednim od najuticajnijih izvora u globalnom AI ekosistemu, delom i zbog velikih količina podataka iz lokalnih izvora. Međutim, veliki deo tih podataka mogao je biti već pod uticajem cenzure, što dugoročno može ograničiti nepristrasnost i potpunu nezavisnost modela.
Osim tehničkih implikacija, ovakvi postupci nameću i pravna, etička i bezbednosna pitanja: ko snosi odgovornost za sadržaj koji model sada može da generiše, kako sprečiti zloupotrebu i da li bi ovakva „otključavanja" trebala da budu javno objavljena bez nadzora stručne zajednice.
Zaključak: Multiverse-ove tvrdnje o CompatifAI i „otključavanju" DeepSeek R1 su potencijalno važan doprinos optimizaciji modela, ali pre konačnih ocena potrebna je nezavisna provera rezultata i šira diskusija o posledicama za bezbednost i etiku.
Pomozite nam da budemo bolji.
