Laureaci Medalu Fieldsa alarmują: wyścig AI po matematyczne dowody może zaszkodzić nauce

Grupa 25 matematyków, każdy z nich uhonorowany Medalem Fieldsa, opublikowała list ostrzegający przed skutkami wyścigu firm AI o rozwiązywanie nierozstrzygniętych dotąd problemów matematycznych. Zdaniem sygnatariuszy sama poprawność dowodu nie wystarcza – liczy się także jego zrozumienie, dalsza analiza i wpisanie w istniejący dorobek nauki.

Ostatnie miesiące przyniosły wyraźny skok możliwości dużych modeli językowych w zakresie matematyki. Modele te radzą sobie z zagadnieniami, które długo pozostawały nierozwiązane przez ludzkich badaczy. Dla firm rozwijających AI stało się to jednym z głównych sposobów pokazywania postępu kolejnych generacji swoich systemów.

Sygnatariusze listu uważają, że zamiana rozwiązywania problemów matematycznych w rodzaj rywalizacji i benchmarku może wyrządzić dziedzinie więcej szkody niż pożytku. Podkreślają, że interesy laboratoriów AI zaczynają odchodzić od interesów środowiska matematycznego.

Dowód to dopiero początek

Autorzy apelu przypominają, że w matematyce znalezienie rozwiązania danego problemu nie oznacza zakończenia pracy. Zwykle taki moment otwierał lata dalszych analiz – upraszczania metod, szukania nowych zastosowań i wiązania odkrycia z dotychczasową wiedzą.

Rozwiązywanie problemów jest jedynie narzędziem i substytutem osiągnięcia głównego celu, jakim jest zrozumienie koncepcyjne i wgląd. Zapomnienie o tym w świecie sztucznej inteligencji może obrócić narzędzie przeciwko głównemu celowi. W rzeczywistości, masowa produkcja coraz szybszych stwierdzeń „prawda/fałsz” może zniszczyć żyzny grunt zamiast tchnąć życie w nowe pomysły

sygnatariusze listu

Obawa dotyczy sytuacji, w której model AI podaje trafny wynik, lecz naukowcy nie mają czasu, by zrozumieć jego pochodzenie i idee, które za nim stoją. Kolejnym zarzutem jest pośpiech w publikowaniu i nagłaśnianiu takich osiągnięć – wyniki generowane przez AI bywają ogłaszane zbyt szybko, bez czasu na ich szczegółowe opisanie, wyodrębnienie zastosowanych metod czy odniesienie się do wcześniejszych prac innych badaczy.

Jak we wszystkich zawodach kreatywnych, rodzi to poważne pytania o atrybucję i plagiat

sygnatariusze listu

AI może zmienić kulturę badań

List zwraca uwagę na jeszcze jedno zjawisko. Gdy laboratoria AI zaczną walczyć o to, kto pierwszy rozwiąże dany problem, dostęp do wiedzy naukowej może stać się elementem strategicznej rywalizacji. Firma, która zauważy obiecujący kierunek badań, może zaangażować ogromne moce obliczeniowe, by uzyskać wynik szybciej niż badacze, którzy od dawna pracowali nad tym samym zagadnieniem. To z kolei mogłoby podkopać dotychczasową kulturę otwartości w nauce – naukowcy mogliby zacząć chronić swoje hipotezy i metody przed ujawnieniem, obawiając się utraty pierwszeństwa.

Zagrożenie to nie ogranicza się wyłącznie do matematyki. Autorzy listu zaznaczają, że podobne ryzyko może dotknąć inne dziedziny naukowe i kreatywne, w których wieloletnia edukacja i praca służyły nie tylko finalnemu rezultatowi, lecz również rozwijaniu zdolności rozumowania, formułowania pytań i tworzenia nowych koncepcji.

Problemy, z którymi mierzy się obecnie społeczność matematyczna, są podobne do tych, z którymi borykają się inne zawody naukowe i twórcze, i wskazują na problemy, z którymi może zmierzyć się cała ludzkość: jak upewnić się, że w miarę jak sztuczna inteligencja zmienia sposób wykonywania pracy, nie stracimy z oczu celu, jaki ta praca pierwotnie miała osiągnąć

sygnatariusze listu

Spór wokół OpenAI

Apel powstał w momencie narastających napięć dotyczących wykorzystania AI w badaniach matematycznych. Profesor Tristan Buckmaster z New York University zarzucił niedawno OpenAI wywieranie na niego nacisku w kontekście przypisania rozwiązania istotnego problemu naukowcowi związanemu z Anthropic. Buckmaster zastanawiał się też, czy jego współpraca z Codex nie została przez OpenAI użyta do wypracowania własnego przełomowego dowodu w trakcie weekendowych prac nad wnioskowaniem.

Sygnatariusze nie twierdzą jednak, że sama zdolność laboratoriów AI do rozwiązywania istotnych problemów matematycznych stanowi zagrożenie. Wręcz odwrotnie – widzą w sztucznej inteligencji potencjał do przyspieszenia rzetelnych badań naukowych. Problemem jest dla nich sposób, w jaki ta technologia zostanie zastosowana.

Matematyka potrzebuje ludzi, nie tylko wyników

Autorzy listu przypominają, że rozwój koncepcji matematycznych bywa procesem trwającym dziesięciolecia, a nawet wieki. Na początku rozumie je wąskie grono specjalistów, potem trafiają do podręczników, stają się warsztatem kolejnych pokoleń naukowców, a z czasem mogą znaleźć zastosowania wykraczające poza samą matematykę. Właśnie dlatego ludzki udział w tym procesie jest kluczowy – wynik trzeba przeanalizować, wyjaśnić, powiązać z wcześniejszą wiedzą i przekazać dalej, kolejnym badaczom i studentom.

Bez chętnych matematyków, którzy muszą dbać o ich rozwój i integrację z kanonem matematyki, idee stworzone przez sztuczną inteligencję nigdy nie ożyłyby w pełni, a kluczowy ludzki łańcuch transmisji między matematykami zostałby utracony. Jesteśmy świadkami powszechnego zagrożenia dla pracy intelektualnej, związanego z rozbieżnością między rezultatami wykorzystania sztucznej inteligencji a jej pierwotnym celem

sygnatariusze listu

W ocenie sygnatariuszy matematyka staje przed dylematem podobnym do tego, który dotyczy wielu innych profesji. AI może usprawnić i przyspieszyć pracę naukową, ale zarazem może doprowadzić do sytuacji, w której organizacje zaczną oceniać jej wartość głównie przez liczbę i tempo uzyskiwanych wyników.

25 laureatów Medalu Fieldsa apeluje o to, by nie zamieniać celu z narzędziem. Ich zdaniem to, jak potoczą się losy matematyki, zależy od tego, czy AI będzie służyć pogłębianiu zrozumienia, czy głównie generowaniu kolejnych wyników prezentowanych jako dowód przewagi konkretnego modelu.