Lajdenska deklaracija upozorava: AI može ugroziti temelje matematike — preko 130 istraživača i IMU podržali apel

Neprestani napredak velikih AI modela izazvao je novu zabrinutost među matematičarima: da sistemi koji generišu dokaze mogu urušiti ključne principe matematike — rigoroznost, transparentnost i ljudsko razumevanje. To je suština Lajdenske deklaracije o veštačkoj inteligenciji i matematici, dokumenta koji su pripremila šesnaest istraživača, a koji je dobio potporu više od 130 kolega i International Mathematical Union (IMU).

Kako je nastala deklaracija

Tekst je izradjen nakon radionice održane u septembru u Nizozemskoj, gde su učesnici mesecima dovodili formulacije do konsenzusa. Rodrigo Ochigame, antropolog AI koji je učestvovao u procesu, ističe: „Radili smo to na težak način.“ IMU-ova podrška pokazuje da zabrinutost nije marginalna već predstavlja stav značajnog dela matematičke zajednice.

Koji su problemi

Autori upozoravaju na nekoliko ključnih problema:

• Neproverljivi dokazi: Napredni AI modeli ponekad proizvode matematičke dokaze koji su tehnički složeni i koje recenzenti teško mogu da verifikuju ili razumeju do detalja.
• Opaque interne procedure: Za razliku od tradicionalnih metoda koje prikazuju logiku korak po korak, AI često daje rezultate zasnovane na internim procesima koje ni stručnjaci ne razumeju u potpunosti.
• Problem atribucije: Modeli se treniraju na javnim bazama kao što je arXiv i mogu generisati sadržaj bez jasnih citata izvora, što otežava uočavanje izvora ideja.
• Komercijalni pritisci: Postoji rizik „trke za objavljivanjem“ i marketinškog preuveličavanja rezultata, kako to upozorava Daniel Litt sa University of Toronto.

„Matematika jeste i treba da ostane duboko ljudska delatnost,“ napisala je potpredsednica IMU Ulrike Tillmann, sumirajući napetost između prihvatanja AI alata i očuvanja ljudske intuicije i poverenja zajednice.

Preporučena rešenja

Deklaracija predlaže konkretne mere kako bi se smanjili rizici bez izričitog odbacivanja koristi koje AI može doneti:

• Obavezno otkrivanje: Istraživači bi morali da jasno navode kada su koristili AI u radu i na koji način.
• Prilagođena i stroža recenzija: Sistem recenzije treba da razvije metode za procenu rezultata nastalih uz pomoć AI, uključujući tehnike za proveru ispravnosti dokaza.
• Javni računarski resursi: Investicije u nezavisne, javno finansirane alate i infrastrukturu kako bi se smanjila zavisnost od komercijalnih platformi ("Big Tech").
• Transparentnost podataka i citiranja: Jasnija pravila o tome kako se izvori upotrebljenih ideja i podataka dokumentuju kada se koristi AI.

Zašto je to važno širem društvu

Argument deklaracije nije tehnofobija: radi se o zaštiti poverenja u matematičku verodostojnost, osnovu tehnologija kao što su kriptografija u telefonima, GPS navigacija i algoritmi u finansijama. Ako matematičari izgube mogućnost da pouzdano verifikuju rezultate, posledice mogu biti dalekosežne izvan akademije.

Zaključak: Deklaracija poziva na balans — zadržati koristi od AI u matematici, ali uvesti pravila i javne resurse koji čuvaju transparentnost, odgovornost i ljudsko razumevanje.