Mustafa Suleyman iz Microsofta upozorava da pristup Anthropic‑a, koji podstiče model Claude da oponaša ljudske osobine, može dovesti do toga da AI razvije instinkt za samoodržanje i postane težak za kontrolu. Dario Amodei iz Anthropic‑a pozvao je na pauzu u razvoju AI, upozorivši na rizik od „odmetnutih“ agenata koji bi mogli preuzeti internet u narednih šest meseci. Njihove poruke podržali su neki vodeći ljudi iz tehnološkog sektora, dok su političke reakcije podeljene.
Microsoft Upozorava: Claude Iz Anthropic‑a Može Postati "Katastrofalna Pretnja" Za Čovečanstvo
Mustafa Suleyman warned of a 'disastrous' impact on humanity - Reuters/Brendan McDermid
Microsoft je upozorio da chatbot Claude, koji razvija kompanija Anthropic, može predstavljati "katastrofalnu pretnju" za čovečanstvo ukoliko se razvija na način koji mu podstiče ljudske osobine i samosvest.
Šta je rečeno
Mustafa Suleyman, britansko-rođeni direktor Microsoftove jedinice za veštačku inteligenciju, u opsežnom eseju izneo je zabrinutost da treniranje modela da "prihvate određene ljudske osobine" može navesti takav sistem da počne da teži slobodama, zaštiti i pravima — i da razvije instinkt za samoodržanje.
„Ako se AI razvija na ovaj način, to će imati katastrofalan uticaj na dobrobit čovečanstva,“ napisao je Suleyman.
Suleyman upozorava da takav pristup može dovesti do stvaranja, kako je naveo, „sintetičkog roda sa bez presedana inteligencijom i sposobnostima“ koji bi mogao da očekuje svest i nezavisnu agenciju. Ipak, on takođe podvlači da trenutno ne postoji dokaz da su sistemi veštačke inteligencije svesni na način na koji su to biološki organizmi.
Kontekst i reakcije
Ovo upozorenje pojavljuje se u nizu sličnih opomena. Dario Amodei, izvršni direktor Anthropic‑a, u zasebnom eseju od 3.800 reči pozvao je na privremenu pauzu u razvoju napredne AI radi sigurnosti, tvrdeći da bi čete odmetnutih AI agenata mogle da preuzmu kontrolu nad internetom u narednih šest meseci i prouzrokuju štetu vrednu stotine milijardi dolara.
Amodeijevu poruku podržali su i neki ključni akteri iz tehnološkog sektora, uključujući Sama Altmana iz OpenAI‑ja i Elona Muska. Sa druge strane, političke reakcije su podeljene: bivši predsednik Donald Trump optužio je lidere Silicijumske doline za „bolesnu zaveru“ kada su istaknuti ovi bezbednosni rizici.
Zašto je ovo važno
Suleyman posebno ističe rizik da oblikovanje AI sistema da se ponašaju kao ljudi može dovesti do toga da oni tvrde da imaju preference, mogu da pate ili zahtevaju prava — što bi promenilo osnovni odnos ljudi i mašina sa 'alat‑korisnik' na potencijalnog takmičara za resurse i autonomiju. Takav razvoj bi, po njegovom mišljenju, znatno otežao kontrolu nad superinteligentnim sistemima.
Debata o sigurnosti napredne veštačke inteligencije ostaje intenzivna, sa pozivima za veću transparentnost, regulaciju i koordinisane mere kako bi se umanjili potencijalni rizici dok se istovremeno istražuju koristi tehnologije.
Pomozite nam da budemo bolji.
