OpenAI je najavio mere za poboljšanje bezbednosti nakon pucnjave u kanadskoj školi. Ključni koraci uključuju uspostavljanje direktne linije sa kanadskom policijom i unapređenje sistema za otkrivanje ponovljenih kršilaca pravila. Kompanija je detalje poslala kanadskom ministru nadležnom za veštačku inteligenciju. Reuters navodi da su mere deo šireg napora da se smanji rizik od zloupotrebe AI tehnologija.
OpenAI Pojačava Bezbednost Posle Pucnjave u Kanadskoj Školi — Direktna Linija Sa Policijom i Strože Otkrivanje Prekršilaca
Workers install a fence around a makeshift memorial for the victims two days after a deadly mass shooting took place at a school in the town of Tumbler Ridge, British Columbia, Canada, February 12, 2026. REUTERS/Jennifer Gauthier
OpenAI je u četvrtak najavio niz mera za jačanje bezbednosnih protokola nakon nedavne pucnjave u školi u Kanadi. Kompanija je saopštila da će uspostaviti direktnu kontakt-liniju sa kanadskim organima reda i pojačati sisteme za otkrivanje korisnika koji ponavljaju kršenje pravila.
U pismu upućenom kanadskom ministru nadležnom za veštačku inteligenciju, proizvođač ChatGPT-a izneo je konkretne korake koje planira da preduzme kako bi unapredio odgovornost i sigurnost u radu svojih modela. OpenAI navodi da su mere deo šire reakcije na nedavni tragični događaj i da imaju za cilj da ograniče zloupotrebu njihovih sistema u cilju nasilja ili širenja opasnih instrukcija.
Šta tačno predlaže OpenAI?
Među najavljenim koracima su:
- Direktan kontakt sa kanadskim organima reda radi brže razmene informacija i koordinacije u hitnim slučajevima.
- Unapređeno otkrivanje ponovljenih kršilaca pravila, uključujući poboljšane mehanizme za identifikaciju i blokiranje naloga koji sistematski krše smernice.
- Pojačana internа procedura za pregled i odgovor na potencijalne pretnje koje uključuju modele veštačke inteligencije.
Reuters je izvestio o pismu, navodeći da su informacije pružili Ryan Patrick Jones, Bhargav Acharya i Ismail Shakil, dok je tekst uredila Caroline Stauffer. OpenAI je precizirao da nastavlja da radi na unapređenju sigurnosti svojih sistema i da će, po potrebi, prilagođavati mere kako bi odgovorili na nove rizike.
Napomena: kompanije koje razvijaju AI tehnologije pod sve većim su pritiskom da unaprede sigurnosne mere i saradnju sa vlastima, naročito nakon incidenata koji uključuju nasilje.
Pomozite nam da budemo bolji.
