Šta bi Richard Feynman rekao o današnjoj veštačkoj inteligenciji? — Naučna sumnja u dobu AI

„Prvo pravilo je da ne smete obmanuti sebe — a vi ste najlakša osoba koju možete obmanuti.“ Ovu opomenu Richard Feynman je izneo u svojoj čuvenoj diplomskoj besedi na Caltechu 1974. i ona ostaje ključno pitanje za svako doba u kojem doživljavamo tehnološke revolucije — uključujući i današnji bum veštačke inteligencije.

Feynmanov pristup: radoznalost i netolerancija prema lažnim objašnjenjima

Feynman je bio praktičan čovek nauke: voleo je da razbija probleme u delove, testira hipoteze prostim eksperimentima i ne trpi autoritet koji zamagljuje proverljive dokaze. Popravljanje radio-aparata bez šema i javna demonstracija otkazivanja O-prstena tokom istrage nesreće šatla Challenger primeri su njegovog principa — traženja jednostavne, kontrolisane provere umesto oslanjanja na lepe reči ili hijerarhiju.

Kako bi gledao na današnji AI?

Feynman bi cenio računarske alate i simulacije — on je pomagao u razvoju Monte Karlo metoda — ali bi tražio jasnoću: šta sistem radi, zašto, i gde puca. Umesto promotivnih demo prezentacija i izjava poput „sistem razume jezik“ ili „otkriva novo znanje“, postavio bi jedno jednostavno pitanje: Kako znate? Njegova pažnja bi bila usmerena na to kako sistem reaguje na neobične, nepotpune ili pogrešne ulaze, a ne samo na to kako blista u kontrolisanim uslovima.

Moćni alati — i opasnosti

Ne može se poreći da AI već menja nauku: od predviđanja trodimenzionalnih struktura proteina do otkrivanja retkih signala u astronomiji i automatske obrade medicinskih slika. Međutim, Feynman bi upozorio na zamku poistovećivanja impresivnih rezultata sa razumevanjem. Modeli koji daju korisne predikcije ne moraju nužno pružiti uzročno objašnjenje — i to je kritična razlika.

UTTER HONESTY:In his 1974 commencement speech at Caltech, Richard Feynman told students scientific integrity depends on “utter honesty.” Experiments should “try to give all of the information to help others to judge the value of your contribution; not just the information that leads to judgment in one particular direction or another.”Credit: Wikimedia Commons.

Problem 'crne kutije' i lažno poverenje

Današnji neuronski modeli sadrže milione ili milijarde parametara i često funkcionišu kao crne kutije čiji je unutrašnji rad teško rekonstruisati. Kao što je John von Neumann šaljivo primetio: „Sa četiri parametra mogu da pristavim slona, a sa pet da mu mahnem repom.“ Feynman bi upozoravao da statistički uspeh nije isto što i razumevanje, i da neophodni eksperimentalni testovi moraju pokazati gde i kako sistemi greše.

Cargo Cult Science — imitacija bez suštine

Feynmanov pojam „cargo cult science“ opisuje istraživanje koje oponaša spoljašnje oblike nauke — grafike, statistiku, terminologiju — ali propušta suštinu: strogu proveru i iskrenu analizu neuspeha. U kontekstu AI to znači da atraktivne prezentacije i merenja performansi ne smeju zameniti transparentnost, reproduktivnost i testiranje granica modela.

Građanska i naučna odgovornost

Kada modeli utiču na odluke o obrazovanju, zdravlju, zapošljavanju ili kreditima, disciplina „ne zavaravaj sebe“ postaje građanska nužnost. Transparentnost, mogućnost revizije i odgovornost u implementaciji su jednako važni kao i performanse. Feynman bi insistirao da se ne prihvata autoritet sistema bez razumevanja njegovih granica.

Zaključak: usporite i ispitujejte

Feynmanov savet za današnji svet AI bio bi jednostavan i direktan: usporite, pitajte šta znate i priznajte šta ne znate. Alati veštačke inteligencije imaju veliki potencijal, ali njihova vrednost zavisi od naše spremnosti da ih testiramo na način koji otkriva gde ideje ne drže vodu. Nauka napreduje sumnjom i eksperimentom — ne spektaklom.

„Radije bih imao pitanja na koja se ne može odgovoriti, nego odgovore koji se ne mogu dovesti u pitanje.“ — Richard Feynman