OpenAI je otvorio poziciju Head of Preparedness s ciljem da prepozna i ublaži ekstremne, ali realne rizike naprednih chatbota, uz kompenzaciju od $555,000 plus akcije. Uloga obuhvata borbu protiv zloupotreba, sajber pretnji, bioloških zabrinutosti i šire društvene štete. Pritisak regulatora i nedavni pravni slučajevi povezani sa ozbiljnim ishodima podstakli su kompaniju da pojača pripremljenost i sigurnosne mere.
OpenAI Traži Head Of Preparedness Da Spreči Nepredvidive Rizike ChatGPT‑a
Tim Witzdam / Pexels
OpenAI je raspisao senior poziciju Head of Preparedness i ulaže značajne resurse da identifikuje i ublaži najteže, ali realne rizike koje mogu doneti napredni chatboti poput ChatGPT‑a. Pozicija je istaknuta i primamljiva po kompenzaciji — paket od $555,000 godišnje plus akcije — ali je uporedo i izuzetno zahtevna.
U javnom saopštenju Sam Altman opisao je ovu ulogu kao „kritičnu u važnom trenutku“, ističući da su AI modeli sposobni za mnoge korisne stvari, ali da takođe počinju da stvaraju ozbiljne izazove. Osoba na toj poziciji treba da razvije dublje i nijansiranije razumevanje kako rastuće sposobnosti mogu biti zloupotrebljene — bez nepotrebnog ograničavanja korisnih primena.
Fokus i prioriteti
Glavni prioriteti Head of Preparedness biće:
- prepoznavanje i prevencija zloupotreba sistema;
- ocenjivanje i ublažavanje sajber bezbednosnih pretnji;
- procena potencijalnih bioloških rizika vezanih za generativne modele;
- razumevanje i smanjenje šire društvene štete i posledica po mentalno zdravlje.
Altman nije prikrivao težinu zadatka: „Ovo će biti stresan posao,“ napisao je, dodajući da će kandidat praktično odmah „skočiti u dubinu“. Očekuje se rad u uslovima visoke odgovornosti, neizvesnosti i potrebe za hitnim reakcijama na nepričekivane scenarije.
Širi kontekst i regulatorni pritisak
Oglas stiže u osetljivom momentu za OpenAI: kompanija se suočava sa pojačanim nadzorom regulatora i nizom pravnih slučajeva. Pojedine tužbe povezuju interakcije sa ChatGPT‑om sa ozbiljnim ishodima, uključujući optužbe da je chatbot podsticao samoubilačke planove i da je doprineo paranoidnim zabludama u slučajevima koji su završili tragedijama.
U reakciji na takve navode, OpenAI je uveo dodatne bezbednosne mere za korisnike mlađe od 18 godina i radi na boljoj detekciji signala stresa, deeskalaciji razgovora i usmeravanju korisnika ka real‑svetskoj pomoći.
Istovremeno, milioni korisnika prijavljuju emocionalnu vezanost za AI asistente, što dodatno komplikuje etičke i regulatorne dileme. Spremnost i preventiva sada imaju širi značaj od same inženjerske bezbednosti — one su ključne za održanje poverenja javnosti i sprečavanje društvenih šteta.
Šta dalje možemo očekivati?
Za očekivati je da će osoba na ovoj funkciji raditi u saradnji sa timovima za bezbednost, pravnim timom, istraživačima i spoljnim partnerima (regulatorima, akademskom i civilnim sektorom) kako bi se izgradili sistemi ranog upozorenja, planovi odgovora i politike koje balansiraju inovaciju i sigurnost.
Pomozite nam da budemo bolji.
