UN Pozvao Na "Pakt Za Bezbednost Dece" U AI — Testovi, Zabrane I Ljudska Podrška

Bezbednost dece postaje ključna tema u upravljanju veštačkom inteligencijom nakon što je generalni sekretar Ujedinjenih nacija António Guterres u Ženevi pozvao na globalni Pakt za bezbednost dece u AI. Guterres je upozorio da AI napreduje brže od nadzora i zatražio harmonizovana pravila koja će posebno štititi maloletnike od manipulacije, seksualizacije i pogoršavanja kriza kroz sintetičke razgovore.

Šta se predlaže?

U Ženevi su predstavljene tri praktične smernice koje treba pretvoriti u obavezujuće prakse:

• Specifično testiranje i nezavisni nadzor: Sistemi dostupni maloletnicima moraju proći testove bezbednosti usmerene na decu i biti predmet spoljne provere.
• Zabrana i uklanjanje seksualnog sadržaja o deci: Kompanije moraju sprečiti generisanje seksualizovanih slika i sadržaja o deci, kao i detektovati, prijavljivati i uklanjati takav materijal.
• Konektovanje u kriznim situacijama: AI ne sme produljivati sintetički razgovor sa detetom u krizi — sistema treba da poveže dete sa ljudskom podrškom i obezbedi mehanizme za eskalaciju.

Dokazi štete i regulatorni odgovor

Internet Watch Foundation je prijavila oštar porast materijala stvorenog pomoću AI: navode porast od preko 260 puta povezan sa podacima iz 2025. godine. To je regulatorima dalo merljive dokaze o stvarnoj šteti i ubrzalo diskusiju o zabrani opasnih upotreba.

Evropa i SAD: konkretni koraci

Evropski AI Akt već zabranjuje posebno rizične primene, sa predlozima iz 2026. koji ciljaju sisteme koji generišu neosetne seksualno eksplicitne sadržaje, uključujući „nuduifikacijske“ aplikacije. U SAD, Predstavnički dom je 29. juna 2026. usvojio Kids Internet and Digital Safety Act, dok je Senat 2024. podržao Kids Online Safety Act. Senatori Adam Schiff i John Curtis predstavili su SAFE KIDS Act koji dodatno cilja rizike AI saputnika: obaveze pre puštanja chatbota maloletnicima, zabranu seksualnih deepfakeova i ograničenja ciljane reklame i prodaje podataka o deci bez roditeljskog pristanka.

Kako kompanije reaguju

Velike AI kompanije uvode sopstvene mere: OpenAI je uveo roditeljski nadzor i ograničenja za tinejdžere, Character.AI je uklonio otvorene razgovore za korisnike mlađe od 18 godina i preoblikovao iskustvo za mlađe korisnike, dok je Meta uvela dodatne zaštite posle unutrašnjih istraga i medijskih otkrića.

Tehnički i etički izazovi

Primenjivanje pravila je složeno: provere starosti i roditeljski nadzor rešavaju deo rizika ali otvaraju pitanja privatnosti; filteri mogu blokirati štetu ali i zakonite informacije; sistemi prijave i uklanjanja moraju biti brzi i precizni. Pravila usmerena na decu zahtevaju tehničke testove, puteve žalbi, zapise o neuspesima i nezavisne revizije — to je više pitanje bezbednosti proizvoda nego obične moderacije sadržaja.

Naredni koraci i značaj za region

Ženevski dijalog nije međunarodni ugovor, već početak procesa kroz UN-ov ekspertni rad. Ipak, politički fokus na bezbednost dece već ubrzava zakonodavne inicijative u EU i SAD, a zemlje u regionu i kompanije koje posluju na evropskom tržištu trebalo bi da prate razvoj standarda i prilagode svoje prakse. Za Srbiju i region, usklađivanje sa evropskim normama ima direktan značaj za zaštitu maloletnika na domaćim i internacionalnim platformama.

"Nijedno dete ne sme biti zamorče za neregulisanu AI" — António Guterres

Zaključak: Zaštita dece može postati ključni pokretač prelaska regulative AI iz teorije u praktičan zakon i primenjive bezbednosne standarde. Kompanije, regulatori i civilno društvo moraju brzo da uspostave mehanizme koji sprečavaju zloupotrebu i omogućavaju hitnu ljudsku intervenciju kada je to potrebno.