Više od 150 matematičara potpisalo je 11‑stranu Leidensku deklaraciju koja upozorava vlade da ne veruju preuveličanim tvrdnjama o sposobnostima AI u rešavanju teških matematičkih problema. Dokument ističe da modeli mogu proizvoditi uverljive, ali pogrešne dokaze i poziva na konsultovanje stručnjaka pri donošenju politika. Autori takođe upozoravaju na komercijalne pritiske, zloupotrebe, i etičke i ekološke rizike povezane sa razvojem AI.
Više od 150 matematičara upozorava vlade: Ne verujte hajpu — AI nije čarobni rešavač matematičkih problema
Illustration by Tag Hartman-Simkins / Futurism. Source: Shutterstock
Ranije ove godine pažnju javnosti privukla je tvrdnja 23-godišnje osobe bez formalnog matematičkog obrazovanja da je pomoću ChatGPT‑ja rešila jedan od tzv. Erdősovih problema — zbirku dugotrajnih i teških matematičkih slutnji koje je ostavio mađarski matematičar Paul Erdős. Zatim je OpenAI objavio da je njihov model oborio 80 godina staru hipotezu o „jediničnoj udaljenosti”.
I dok je industrija iskoristila ove priče za velike najave, matematička zajednica upozorava da takvi zahtevi često preteruju i obmanjuju. U odgovoru na hajp, više od 150 matematičara iz celog sveta potpisalo je 11‑stranu Leidensku deklaraciju o AI i matematici, u kojoj pozivaju vlade i donosioce politika na oprez i konsultacije sa stručnjacima.
Glavne brige naučnika
Potpredsednica Međunarodne matematičke unije Ulrike Tillmann naglašava da „budućnost matematičkog istraživanja mora biti vođena ljudskim prosudbama, pravednim i transparentnim praksama i zajedničkim vrednostima globalne matematičke zajednice”. Dokument upozorava da postoji snažan komercijalni podsticaj da se mogućnosti proizvoda preuveličaju, i savetuje da se politike ne grade na osnovu saopštenja za javnost i medijskih napisa.
«Današnje automatizovane tehnike mogu proizvesti verodostojno zvučeće, ali nepouzdane (pa čak i netačne) argumente koji se teško razlikuju od ispravnih matematičkih dokaza.» — Leslie Ann Goldberg, Univerzitet u Oksfordu
Jedan od ključnih rizika je da modeli generišu uverljive, ali netačne dokaze koji lako mogu proći kao validni u javnim i popularnim prikazima. To je naročito opasno u matematici i teorijskoj računarstvu, gde se novo istraživanje gotovo uvek oslanja na prethodne rezultate.
Širi društveni i etički kontekst
Autori deklaracije takođe upozoravaju na šire probleme: industrijska uključenost u vojne i masovne nadzorne programe, tehnologije koje podrivaju demokratiju širenjem dezinformacija, kao i veliki ekološki troškovi obuke velikih modela. Dokument priznaje i da su mnogi matematičari privučeni ponudama industrije — posao, resursi i finansijska nagrada — posebno u uslovima podfinansiranja akademije i nesigurnog zaposlenja.
Leidenski autori ističu i problem bez saglasnosti: modeli se treniraju na najnovijim istraživanjima često bez pristanka ili obaveštavanja originalnih autora. Kako Rodrigo Ochigame, antropolog veštačke inteligencije na Univerzitetu u Leidenu, kaže, to je «veoma zabrinjavajuća situacija».
Šta deklaracija traži?
Među preporukama su: konsultovanje matematičkih stručnjaka prilikom donošenja politika, strožija provera rezultata koji u javnost izlaze uz pomoć AI, transparentnost u korišćenju naučnih radova za treniranje modela i šira regulacija zbog bezbednosnih i etičkih rizika.
Zaključno, dokument je snažno protivljenje preteranom hajpu o sposobnostima današnjih modela u rešavanju duboko otvorenih matematičkih problema, i poziv na odgovorniji, transparentniji pristup koji uključuje akademsku zajednicu.
Pomozite nam da budemo bolji.
