Više od 150 matematičara potpisalo je Leiden deklaraciju o AI i matematici, upozoravajući vlade da ne prihvataju senzacionalne tvrdnje o dostignućima AI bez nezavisne ekspertize. Dokument ističe rizik od uverljivih ali netačnih dokaza koje sistemi generišu i upozorava na šire probleme poput dezinformacija, nadzora i ekoloških troškova. Ipak, deklaracija priznaje i potencijalne koristi AI u oblastima kao što je energetska efikasnost.
Više od 150 matematičara upozorava vlade: Ne verujte senzacionalnim tvrdnjama o AI bez provere
Photo Credit: iStock
Nakon serije medijski eksponiranih tvrdnji da veštačka inteligencija možda rešava poznate matematičke probleme, više od 150 matematičara i stručnjaka potpisalo je Leiden deklaraciju o AI i matematici, pozivajući vlade i donosioce politika na oprez i nezavisnu proveru takvih najava.
Zašto je deklaracija objavljena
Potpisnici upozoravaju da atraktivne najave iz industrije i medija ne znače uvek proverene naučne rezultate. Kao primer spominju se nedavne tvrdnje: slučaj 23-godišnjaka koji je rekao da mu je ChatGPT pomogao u rešavanju jednog od poznatih Erdősovih problema, i izjava OpenAI da je njihov sistem osporio Paul Erdősovu višedecenijsku konjekturu o jediničnom rastojanju.
Glavni rizici koje deklaracija ističe
Autori upozoravaju da AI sistemi mogu generisati uverljivo izgledajuće dokaze koji, nakon stručne provere, pokažu greške. Takvi netačni rezultati mogu:
- skrenuti tok budućih istraživanja;
- odložiti stvarne proboje;
- potkopati poverenje u naučni rad i matematičku literaturu.
„Postoji snažan komercijalni podsticaj u tehnološkoj industriji da se preuveličaju sposobnosti proizvoda“, navodi se u deklaraciji.
Širi društveni i ekološki problemi
Deklaracija takođe ukazuje na šire rizike povezane s razvojem i primenom AI: širenje dezinformacija, upotreba u nadzoru i vojne svrhe, kao i značajni ekološki troškovi obuke i rada velikih modela – veliki podatkovni centri troše energiju i vodu, što može opteretiti infrastrukturu i dovesti do visokih računa za domaćinstva.
Potencijalne koristi
Autori ne ignorišu korisne primene AI: tehnologija može pomoći u optimizaciji rada elektrodistributivnih preduzeća, prognozi potrošnje energije, balansiranju obnovljivih izvora i povećanju efikasnosti čistih energetskih sistema.
Izjave stručnjaka
Ulrike Tillmann, potpredsednica International Mathematical Union, naglašava da AI „postavlja pitanja koja ne smeju ostati neispitana“. Leslie Ann Goldberg (University of Oxford) upozorava: „Trenutne automatizovane tehnike mogu proizvesti uverljive, ali nepouzdane (ili čak netačne) argumente koje je teško razlikovati od korektnih dokaza.“ Rodrigo Ochigame (Leiden University) dodaje zabrinutost zbog korišćenja rada matematičara bez njihovog pristanka u svrhe razvoja AI.
Preporuke za donosioce politika
Leiden deklaracija poziva vlade da se oslanjaju na nezavisne stručnjake, uključujući matematičare, pri oceni naučnih tvrdnji povezanih s AI, umesto da počinju od saopštenja za javnost ili senzacionalnih naslova.
Zaključak: Deklaracija nije protiv AI kao takve, već je poziv na odgovorno, transparentno i ekspertima utemeljeno uvođenje ove tehnologije u nauku i društvo.
Pomozite nam da budemo bolji.
