Jak uratować naukę przed sztuczną inteligencją? [New Scientist]

Serwis preprintów arXiv jest tak zalewany często niskiej jakości artykułami generowanymi przez sztuczną inteligencję, że stał się praktycznie bezużyteczny – ostrzegają matematycy na łamach „New Scientista”.

Gwałtowny wzrost możliwości matematycznych sztucznej inteligencji

ArXiv to elektroniczne archiwum prac naukowych, które nie były jeszcze publikowane ani recenzowane, jednak mogą być tam umieszczane wyłącznie przez zarejestrowanych i zaufanych autorów (endorsers). Aby zostać zaufanym autorem, wystarczy potwierdzenie od innego zaufanego autora. Większość prac umieszczanych w arXiv jest publikowana także w renomowanych czasopismach naukowych.

Prace umieszczone w arXIV są dostępne bezpłatnie dla wszystkich użytkowników internetu. Są to artykuły dotyczące fizyki i astronomii, matematyki, informatyki, statystyki i biologii oraz matematyki finansowej. Archiwum powstało w roku 1991 w Los Alamos National Laboratory, a obecnie funkcjonuje przy Cornell University. Dzięki ArXiv pracownicy naukowi mają możliwość bycia na bieżąco z tym, co dzieje się w ich dziedzinach.

Gwałtowny wzrost możliwości matematycznych sztucznej inteligencji i jej zdolność do automatycznego generowania artykułów z dużą szybkością i minimalnym nakładem pracy ludzkiej sprawiają, że strona internetowa arXiv jest zalewana coraz większą liczbą artykułów. Grozi to przepełnieniem bazy i uczynieniem jej bezużyteczną.

O ile we wrześniu 2024 roku do arXiv zgłoszono 20 569 artykułów, to rok później liczba ta wzrosła do 26 646, a we wrześniu 2026 roku – aż do 40 363.

Kevin Buzzard z Imperial College London twierdzi na łamach „New Scientista”, że zgłaszanie autentycznych artykułów stało się trudniejsze, ponieważ moderatorzy arXiv są przeciążeni pracą, a artykuły mogą znikać w kolejce recenzji na całe tygodnie. Liczba opublikowanych artykułów jest tak duża, że Buzzard nie jest w stanie codziennie ręcznie ich czytać. Musi korzystać ze sztucznej inteligencji, aby podpowiadała mu, na których artykułach się skupić.

„Problem polega na tym, że artykuły o charakterze prowizorycznym nie wyjaśniają dobrze pewnych rzeczy. Nie chodzi tylko o poprawność; chodzi o ludzkie zrozumienie, a sztuczna inteligencja czasami bardzo słabo sobie z tym radzi” – wskazał Buzzard.

Jak ograniczyć liczbę prac o niskiej jakości, generowanych przez sztuczną inteligencję?

Dzięki dostępowi do sztucznej inteligencji matematycy nieprofesjonalni mogą teraz rozwiązywać dość trudne problemy i automatycznie generować artykuły przedstawiające wyniki, które następnie można opublikować w arXiv. Jednak takie artykuły są często krytykowane przez matematyków. Na przykład Chaim Goodman-Strauss z Uniwersytetu Arkansas opisał w tym tygodniu jeden artykuł – zawierający poprawne rozwiązanie długotrwałego problemu – jako „w zasadzie prowizoryczny”.

Terence Tao z Uniwersytetu Kalifornijskiego w Los Angeles poskarżył się niedawno w wywiadzie dla „New Scientista”, że sposób, w jaki dokonuje się odkryć matematycznych i „zrzuca” je na społeczność matematyczną, może w rzeczywistości zaszkodzić tej dziedzinie.

Modele sztucznej inteligencji rozwiązują problemy matematyczne w coraz szybszym tempie, a technika zwana formalizacją jest kluczowa dla wykazania, że ich deklarowane rozwiązania są rzeczywiście poprawne. Problem w tym, że trzeba zaufać procesowi formalizacji.

Aby ograniczyć liczbę prac o niskiej jakości, generowanych przez sztuczną inteligencję, serwis wprowadził nowy limit dla przesyłających artykuły. Obecnie mogą oni przesyłać tylko dwa artykuły w miesiącu kalendarzowym i mieć łącznie trzy aktywne zgłoszenia w danym momencie.

Zasady ArXiv od dawna zezwalają autorom na korzystanie ze sztucznej inteligencji, pod warunkiem jej ujawnienia. ArXiv odnotował jednak wzrost liczby artykułów o wąskim zakresie i „niskiej wartości”.

Podjęto także działania mające pozwolić na dostosowanie się do nowej rzeczywistości. Na przykład nowa strona o nazwie Hexagon to miejsce dla „pre-preprintów”, artykułów generowanych przez AI, których matematycy mogą jeszcze nie w pełni zrozumieć.

PAP/MB