Naukowcy znaleźli ponad tysiąc fikcyjnych cytowań w publikacjach. Winna może być AI

Na pierwszy rzut oka taka praca niczym nie różni się od setek innych: ma solidny tytuł, afiliacje przy nazwiskach autorów i rozbudowaną listę źródeł. Kłopoty zaczynają się dopiero wtedy, gdy ktoś spróbuje dotrzeć do konkretnej pozycji z bibliografii i okazuje się, że takie badanie nigdy nie zostało opublikowane. Grupa badaczy z Columbia University prześwietliła pół miliona artykułów naukowych i wyłapała ponad 1100 podejrzanych odwołań.

Niepokoi nie tylko sama liczba, ale i dynamika zjawiska. Jeszcze w 2023 r. z fikcyjnym źródłem można było się zetknąć średnio raz na 1600 publikacji. Na początku 2026 r. ten wskaźnik wzrósł do jednej podejrzanej pozycji na 435 prac. Zdaniem autorów badania takie zmyślone odniesienia stanowią realne zagrożenie dla wiarygodności dorobku naukowego.

21,6 mln sprawdzonych cytowań, setki ślepych tropów

Za projektem stoi międzynarodowy zespół pod kierownictwem Maxima Topaza ze School of Nursing na Columbia University w Nowym Jorku. Naukowcy objęli analizą 500 tys. artykułów opublikowanych między styczniem 2023 r. a marcem 2026 r., korzystając z zasobów bazy OpenAlex. Zakres tematyczny obejmował fizykę, chemię, materiałoznawstwo, inżynierię i informatykę.

Do pracy wykorzystano automatyczny system weryfikujący 21,6 mln pozycji bibliograficznych opatrzonych identyfikatorem DOI. Narzędzie zestawiało tytuły przywoływane w artykułach z danymi dostępnymi w bazach publikacji naukowych.

Efektem tej pracy było wskazanie 1135 wątpliwych odniesień rozsianych po 619 artykułach. Jak wynika z badania opublikowanego w Proceedings of the National Academy of Sciences, problem nie omija żadnej z analizowanych dziedzin.

Zespół nie zadowolił się jednak samą automatyczną weryfikacją. Losową próbę 400 zakwestionowanych cytowań poddano dodatkowo ocenie dwóch niezależnych ekspertów, którzy w 85,8 proc. przypadków potwierdzili, że dane źródło faktycznie nie istnieje. Oznacza to, że nie każde odniesienie oflagowane przez algorytm musi od razu być fikcyjną publikacją.

W ciągu trzech lat skala zjawiska wzrosła ponad trzykrotnie

W 2023 r. na 10 tys. publikacji przypadało 6,3 podejrzanych odniesień. Dwa lata później wartość ta wzrosła do 15,4, a w pierwszym kwartale 2026 r. sięgnęła 23 na 10 tys. - to ponad trzykrotny wzrost udziału prac dotkniętych tym problemem w badanym okresie. Najgorzej wypadła fizyka ze wskaźnikiem 25,6 na 10 tys. artykułów, za nią uplasowało się materiałoznawstwo z wynikiem 18,4. Informatyka wraz z badaniami nad sztuczną inteligencją osiągnęła 11,1, inżynieria 10,3, a chemia 4,3.

W większości przypadków autorzy popełniali jeden lub dwa takie błędy. Zidentyfikowano jednak również 27 artykułów zawierających co najmniej pięć fikcyjnych odniesień - i to właśnie ta nieliczna grupa prac odpowiadała za ponad jedną trzecią wszystkich podejrzanych cytowań wykrytych w trakcie audytu.

Ekstrapolując uzyskane dane na całą populację liczącą około 7 mln publikacji z badanych dyscyplin wydanych w tym samym okresie, naukowcy szacują, że może wśród nich istnieć nawet 8500 artykułów zawierających co najmniej jedno zmyślone odniesienie.

Czy to sprawka sztucznej inteligencji?

Jednym z prawdopodobnych wyjaśnień jest rosnąca popularność modeli językowych wykorzystywanych przy pisaniu tekstów naukowych. Chatboty potrafią wygenerować wiarygodnie wyglądającą bibliografię, w której pojawiają się nazwiska rzeczywistych badaczy i tytuły prac, jakie nigdy nie zostały napisane. Mówi się wtedy o halucynacjach AI - model dopasowuje odpowiedź do zadanego pytania, niekoniecznie opierając się na realnych źródłach. Jeśli autor przekopiuje takie odniesienie bez weryfikacji, może ono przejść nawet przez proces recenzji.

Serwis Spider's Web pisał już wcześniej o publikacjach zawierających treści wygenerowane przez AI, które trafiły do Google Scholar - co pokazało, że sama obecność materiału w naukowej wyszukiwarce nie jest żadną gwarancją jego rzetelności.

Przeprowadzony audyt nie daje jednak podstaw, by twierdzić, że za każdym wykrytym cytowaniem stoi sztuczna inteligencja. Źródłem problemu równie dobrze mogą być zwykłe pomyłki autorów, niechlujnie przygotowana bibliografia albo celowe działanie. Badacze ustalili skalę zjawiska, nie rozstrzygając jednak, co stało za poszczególnymi przypadkami.

Fałszywe prace zyskują własne życie

Kłopot z nieistniejącymi źródłami wykracza poza same nieprawidłowości w bibliografii. Gdy naukowiec powołuje się na badanie, które nigdy nie powstało, sprawia wrażenie, że głoszona przez niego teza ma dodatkowe oparcie w literaturze.

Kolejny autor może potem zacytować taki tekst, nie weryfikując jego źródeł, a błędna informacja zacznie przenikać do przeglądów, analiz i następnych publikacji. Jest to szczególnie groźne w obszarach, w których wyniki badań przekładają się na decyzje dotyczące zdrowia czy bezpieczeństwa.

Zjawisko nie dotyczy wyłącznie fizyki i chemii. Ten sam zespół badawczy opublikował w maju wyniki analizy 2,5 mln publikacji z dziedziny biomedycyny, w których wykrył 4046 fikcyjnych cytowań obecnych w 2810 artykułach.

Warto odróżnić ten mechanizm od tzw. fabryk publikacji naukowych, o których Spider's Web pisał już wcześniej - tam problemem był handel autorstwem, podejrzane artykuły i manipulowanie procesem wydawniczym. Fikcyjne cytowania mogą natomiast pojawiać się nawet w pracach, które poza samą bibliografią nie budzą żadnych wątpliwości.

Automatyczna weryfikacja jako remedium

Autorzy audytu postulują, by redakcje czasopism naukowych wdrożyły automatyczną kontrolę bibliografii jeszcze przed skierowaniem tekstu do recenzji. Takie narzędzia mogłyby wyłapywać nieistniejące tytuły, błędne numery DOI i inne nieścisłości wymagające dalszego wyjaśnienia.

Badacze zalecają też, by ponownie przyjrzeć się już opublikowanym pracom. W chwili prowadzenia audytu z obiegu wycofano zaledwie dwa z 619 artykułów, w których wykryto podejrzane odniesienia. Zespół zapowiada już kolejny etap projektu, który ma objąć nawet 12 mln publikacji medycznych wydanych od 2020 r. Tym razem naukowcy chcą sprawdzić nie tylko obecność fikcyjnych źródeł, ale też ich faktyczny wpływ na wnioski formułowane w artykułach.

Wyniki audytu nie oznaczają, że naukowe publikacje masowo straciły wiarygodność - zdecydowana większość sprawdzonych prac nie zawierała żadnych nieprawidłowości tego typu. Pokazują jednak wyraźnie, że problem narasta i nie ogranicza się do jednej dyscypliny.