{"id":8043,"date":"2025-06-02T19:44:15","date_gmt":"2025-06-02T19:44:15","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=8043"},"modified":"2025-06-02T19:44:15","modified_gmt":"2025-06-02T19:44:15","slug":"zjawisko-paper-mills-a-wykorzystanie-wielkich-modeli-jezykowych-w-pisaniu-prac-naukowych-mechanizmy-dzialania-i-konsekwencje","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2025\/06\/02\/zjawisko-paper-mills-a-wykorzystanie-wielkich-modeli-jezykowych-w-pisaniu-prac-naukowych-mechanizmy-dzialania-i-konsekwencje\/","title":{"rendered":"Zjawisko \u201epaper mills\u201d a wykorzystanie wielkich modeli j\u0119zykowych w pisaniu prac naukowych \u2013 mechanizmy dzia\u0142ania i konsekwencje."},"content":{"rendered":"

Rozw\u00f3j sztucznej inteligencji postawi\u0142 \u015bwiat nauki przed nowym wyzwaniem: ,,fabryki prac\u2019\u2019 (ang. paper mills) zalewaj\u0105 literatur\u0119 naukow\u0105 publikacjami pozoruj\u0105cymi rzetelne badania. Dzi\u0119ki pot\u0119dze du\u017cych modeli j\u0119zykowych (LLM) generowanie przekonuj\u0105cych \u2013 cho\u0107 fa\u0142szywych \u2013 artyku\u0142\u00f3w sta\u0142o si\u0119 \u0142atwiejsze ni\u017c kiedykolwiek. To zjawisko podkopuje zaufanie do nauki w podobny spos\u00f3b, w jaki fake newsy i deepfake\u2019i podwa\u017caj\u0105 wiarygodno\u015b\u0107 informacji w spo\u0142ecze\u0144stwie. G\u0142\u00f3wny wniosek jest jasny: bez zdecydowanych dzia\u0142a\u0144 organizacyjnych i technologicznych ryzykujemy kryzys wiarygodno\u015bci nauki na niespotykan\u0105 skal\u0119.<\/strong>
\n<\/span><\/p>\n

<\/p>\n

Wst\u0119p<\/h2>\n

Pierwsze sygna\u0142y alarmowe pojawi\u0142y si\u0119 ju\u017c lata temu, kiedy okaza\u0142o si\u0119, \u017ce ca\u0142e serie publikacji medycznych i technicznych zosta\u0142y wyprodukowane na zam\u00f3wienie przez firmy oferuj\u0105ce autorom \u201epublikacje na sprzeda\u017c\u201d <\/span>(Else & Van Noorden 2021)<\/i>. Tego typu dzia\u0142alno\u015b\u0107 okre\u015bla si\u0119 mianem <\/span>paper mills<\/span><\/i> \u2013 fabryk produkuj\u0105cych pozornie naukowe artyku\u0142y, cz\u0119sto z fa\u0142szywymi danymi lub nawet kupionymi autorstwami. Problem ten ur\u00f3s\u0142 do globalnej skali: <\/span>wed\u0142ug szacunk\u00f3w od 2% do nawet 20% publikacji naukowych mo\u017ce pochodzi\u0107 z paper mills<\/em><\/b> (szczeg\u00f3lnie w niekt\u00f3rych dzia\u0142ach biomedycyny) <\/span>(Sanderson 2024)<\/i>. W 2024 r. wydawca Hindawi (cz\u0119\u015b\u0107 Wiley, wydawnictwa specjalizuj\u0105cego si\u0119 w publikacjach naukowych) musia\u0142 wycofa\u0107 ponad <\/span>11 tysi\u0119cy<\/b> podejrzanych artyku\u0142\u00f3w i zamkn\u0105\u0107 <\/span>19 czasopism<\/b> po wykryciu masowego oszustwa publikacyjnego <\/span>(Subbaraman 2024)<\/i>. Co gorsza, coraz cz\u0119\u015bciej podkre\u015bla si\u0119, \u017ce najnowsze narz\u0119dzia AI mog\u0105 uczyni\u0107 te fa\u0142szerstwa jeszcze trudniejszymi do wykrycia.<\/span><\/p>\n

Przegl\u0105d literatury<\/b><\/h2>\n

Badacze zajmuj\u0105cy si\u0119 etyk\u0105 publikacji od kilku lat bij\u0105 na alarm, \u017ce \u201epapierowi oszu\u015bci\u201d<\/span>\u00a0wykorzystuj\u0105 coraz sprytniejsze metody. Ju\u017c w 2021 r. magazyn <\/span>Nature<\/span><\/i> opublikowa\u0142 analiz\u0119 wskazuj\u0105c\u0105, \u017ce wydawnictwa naukowe zmagaj\u0105 si\u0119 z <\/span>\u201efabrykami fa\u0142szywej nauki\u201d<\/b> produkuj\u0105cymi setki fa\u0142szywych prac na zam\u00f3wienie <\/span>(Else & Van Noorden 2021)<\/i>. W tamtym czasie zidentyfikowano listy ponad 1000 podejrzanych artyku\u0142\u00f3w, co doprowadzi\u0142o do setek wycofanych prac przez czasopisma znanych wydawc\u00f3w. R\u00f3wnie\u017c <\/span>Wall Street Journal<\/span><\/i> opisa\u0142 szokuj\u0105cy proceder, w kt\u00f3rym firmy sprzedaj\u0105 autorom miejsce na publikacj\u0119 \u2013 niekiedy z pomoc\u0105 skorumpowanych redaktor\u00f3w \u2013 a <\/span>\u201elawina pseudonauki\u201d<\/span> zmusi\u0142a wydawc\u00f3w do masowego wycofania ca\u0142ych numer\u00f3w czasopism <\/span>(Subbaraman 2024)<\/i>.<\/span><\/p>\n

\"FRAUD
\nStatystyki dotycz\u0105ce <\/span>paper mills<\/span>. \u0179r\u00f3d\u0142o: <\/span>Else & Van Noorden 2021.<\/em><\/p>\n

Zjawisko <\/span>paper mills<\/span><\/i> ma charakter globalny. Wiele afer ujawniono w Chinach, gdzie presja \u201epublikuj albo gi\u0144\u201d sprzyja\u0142a rozwojowi czarnego rynku publikacji <\/span>(McLellan 2025)<\/i>. Jednak problem nie ogranicza si\u0119 do jednego kraju \u2013 wykryto siatki fa\u0142szywych publikacji m.in. w Rosji, Iranie czy Indiach <\/span>(Else & Van Noorden 2021)<\/i>. W g\u0142o\u015bnym raporcie Anna Abalkina przeanalizowa\u0142a dzia\u0142alno\u015b\u0107 rosyjskiej firmy International Publisher Ltd., ujawniaj\u0105c <\/span>451 potencjalnie fa\u0142szywych artyku\u0142\u00f3w<\/b> powi\u0105zanych z t\u0105 jedn\u0105 \u201efabryk\u0105\u201d <\/span>(Abalkina 2023)<\/i>. Wiele z tych prac znalaz\u0142o si\u0119 nawet w uznanych wydawnictwach naukowych, zanim wykryto oszustwo. Skal\u0119 problemu dobrze oddaje wypowied\u017a prof. Dorothy Bishop: <\/span>\u201e<\/span>Sytuacja sta\u0142a si\u0119 horrendalna. Zalew fa\u0142szywych publikacji sprawia, \u017ce w niekt\u00f3rych dziedzinach trudno ju\u017c budowa\u0107 rzeteln\u0105, kumulatywn\u0105 wiedz\u0119 naukow\u0105\u201d<\/span> (McKie 2024)<\/i>.<\/span><\/p>\n

\"CHINESE<\/p>\n

Liczba chi\u0144skich autor\u00f3w w angloj\u0119zycznych czasopismach naukowych na przestrzeni lat. \u0179r\u00f3d\u0142o: <\/span>Else & Van Noorden 2021.<\/em><\/p>\n

Jednocze\u015bnie pojawiaj\u0105 si\u0119 nowe czynniki, kt\u00f3re <\/span>eskaluj\u0105 zagro\u017cenie. W ko\u0144cu 2022 r. \u015bwiat ujrza\u0142 mo\u017cliwo\u015bci ChataGPT \u2013 modelu AI zdolnego pisa\u0107 sp\u00f3jne teksty na niemal dowolny temat. Szybko sprawdzono, \u017ce potrafi on tworzy\u0107 <\/span>fa\u0142szywe abstrakty prac naukowych na tyle przekonuj\u0105ce, \u017ce a\u017c 32% recenzent\u00f3w nie potrafi\u0142o ich odr\u00f3\u017cni\u0107 od prawdziwych<\/b> (Else 2023)<\/i>. Co wi\u0119cej, popularny chatbot zacz\u0105\u0142 pojawia\u0107 si\u0119 w podzi\u0119kowaniach, a nawet jako wsp\u00f3\u0142autor w nades\u0142anych tekstach, co wywo\u0142a\u0142o konsternacj\u0119 w \u015brodowisku wydawc\u00f3w <\/span>(Sample 2023)<\/i>. W styczniu 2023 redakcje <\/span>Science<\/span><\/i> i <\/span>Nature<\/span><\/i> zareagowa\u0142y b\u0142yskawicznie: zakazano wpisywania ChatGPT jako autora publikacji oraz wprost stwierdzono, \u017ce <\/span>nieakceptowalne jest w\u0142\u0105czanie wygenerowanych przez AI fragment\u00f3w do tekstu naukowego<\/b>. Jak t\u0142umaczy\u0142 Holden Thorp, redaktor <\/span>Science<\/span><\/i>, model j\u0119zykowy nie mo\u017ce by\u0107 autorem, bo nie bierze odpowiedzialno\u015bci za tre\u015b\u0107, a jego niezweryfikowane b\u0142\u0119dy mog\u0142yby przenikn\u0105\u0107 do literatury i wypaczy\u0107 wyniki bada\u0144.<\/span><\/p>\n

Pomimo tych ostrze\u017ce\u0144 wykorzystanie LLM w pracach naukowych stale ro\u015bnie. Wed\u0142ug najnowszych bada\u0144 <\/span>oko\u0142o 17,5% manuskrypt\u00f3w z informatyki zawiera fragmenty tekstu wygenerowane przez AI<\/b> (np. przeredagowane akapity) <\/span>(Kannan 2024)<\/i>. Nawet w recenzjach naukowych pojawiaj\u0105 si\u0119 sekcje pisane przez ChatGPT. Wielu naukowc\u00f3w traktuje te modele jako narz\u0119dzia pomocnicze \u2013 do redakcji j\u0119zyka czy streszczania literatury. Jednak granica mi\u0119dzy \u201elegaln\u0105\u201d pomoc\u0105 a nieetycznym zast\u0105pieniem w\u0142asnej pracy przez AI bywa p\u0142ynna. Literatura fachowa podejmuje ten temat na polu etyki: dyskutuje si\u0119, czy i jak <\/span>bezpiecznie korzysta\u0107 z AI w pisaniu prac naukowych (np. czy dopuszczalne jest generowanie ca\u0142ych fragment\u00f3w tekstu czy jedynie stylistyczna korekta) <\/span>(Logan 2024)<\/i>.<\/span><\/p>\n

Analiza problemu<\/b><\/h2>\n

\"Cartoon<\/b><\/p>\n

Rzetelno\u015b\u0107 nauki vs. generatywna AI.\u00a0<\/span>\u0179r\u00f3d\u0142o: <\/span>Else & Van Noorden 2021.<\/em><\/p>\n

Spo\u0142eczne i etyczne konsekwencje<\/b> nadu\u017cywania AI w nauce s\u0105 powa\u017cne. Przede wszystkim zagro\u017cona jest <\/span>wiarygodno\u015b\u0107 publikacji naukowych<\/b> \u2013 fundament zaufania spo\u0142ecznego do nauki. Je\u017celi czytelnicy i badacze zaczn\u0105 podejrzewa\u0107, \u017ce co druga praca mo\u017ce by\u0107 mistyfikacj\u0105 wygenerowan\u0105 przez algorytm, ucierpi na tym autorytet prawdziwych odkry\u0107. W \u015bwiecie nauki od dawna obowi\u0105zuje zasada, \u017ce <\/span>wyniki musz\u0105 by\u0107 powtarzalne i oparte na rzetelnych danych<\/b>. Tymczasem wielkie modele j\u0119zykowe s\u0105 mistrzami \u201e<\/span>halucynacji<\/b>\u201d \u2013 potrafi\u0105 zmy\u015bla\u0107 nieistniej\u0105ce referencje, dane czy ca\u0142e eksperymenty w spos\u00f3b trudny do wychwycenia dla pobie\u017cnego recenzenta. W efekcie do literatury mog\u0105 trafia\u0107 <\/span>pozorne odkrycia<\/span>, kt\u00f3rych nikt naprawd\u0119 nie dokona\u0142. Takie zjawisko to odpowiednik naukowego fake newsa<\/em> \u2013 mo\u017cemy je nazwa\u0107 <\/span>fake science<\/span><\/i>. Skutki mog\u0105 by\u0107 gro\u017ane: od b\u0142\u0119dnego ukierunkowania kolejnych bada\u0144, po podejmowanie z\u0142ych decyzji klinicznych czy technologicznych opartych na sfabrykowanych wynikach <\/span>(McKie 2024)<\/i>.<\/span><\/p>\n

Analogii do <\/span>fake news\u00f3w <\/em>i deepfake\u2019\u00f3w<\/em> jest tu wiele. W sferze informacyjnej zalew fa\u0142szywych tre\u015bci deformuje obraz rzeczywisto\u015bci i polaryzuje spo\u0142ecze\u0144stwo. Podobnie w nauce, <\/span>papierowe fabryki<\/span><\/i> mog\u0105 zala\u0107 bazy danych publikacjami-widmo, kt\u00f3re zanieczyszczaj\u0105 wsp\u00f3ln\u0105 wiedz\u0119 i utrudniaj\u0105 odnalezienie prawdy. Deepfake\u2019i \u2013 czyli fa\u0142szywe obrazy lub nagrania wideo generowane przez sieci neuronowe \u2013 podwa\u017caj\u0105 zaufanie do materia\u0142\u00f3w wizualnych (\u201eczy to, co widz\u0119, jest prawdziwe?\u2019\u2019). <\/span>Paper mill z udzia\u0142em AI to nic innego jak <\/b>deepfake artyku\u0142 naukowy<\/i><\/b>: na pierwszy rzut oka wygl\u0105da wiarygodnie, ale jego tre\u015b\u0107 jest wytworem algorytmu, nie odzwierciedla faktycznie przeprowadzonych bada\u0144. Co gorsza, generatywna AI mo\u017ce tworzy\u0107 tak\u017ce fa\u0142szywe <\/span>obrazy naukowe<\/b> \u2013 np. zdj\u0119cia mikroskopowe czy wykresy \u2013 kt\u00f3re trudno odr\u00f3\u017cni\u0107 od prawdziwych (odnotowano ju\u017c przypadki u\u017cycia algorytm\u00f3w GAN do generowania fikcyjnych zdj\u0119\u0107 kom\u00f3rek) (<\/span>WEB1<\/span><\/a>). To rodzi dylemat: je\u015bli nawet surowe dane mog\u0105 by\u0107 podrobione, jak zweryfikowa\u0107 wyniki?<\/span><\/p>\n

Etycznie problem dotyka kwestii <\/span>autorstwa i odpowiedzialno\u015bci<\/b>. Tradycyjnie autor artyku\u0142u naukowego zobowi\u0105zuje si\u0119 do uczciwego przedstawienia wynik\u00f3w i ponosi odpowiedzialno\u015b\u0107 za ewentualne b\u0142\u0119dy czy fa\u0142szerstwa. Gdy w gr\u0119 wchodzi AI jako faktyczny ghostwriter<\/em>, pojawia si\u0119 pytanie: kto odpowiada za tre\u015b\u0107? Czy mo\u017cna obarczy\u0107 algorytm win\u0105 za plagiat czy b\u0142\u0105d merytoryczny? W obecnym konsensusie wydawc\u00f3w \u2013 nie. To cz\u0142owiek podpisany pod prac\u0105 musi gwarantowa\u0107 jej rzetelno\u015b\u0107 <\/span>(Sample 2023)<\/i>. Wykrycie oszustwa skutkuje zatem konsekwencjami dla autora (utrata reputacji, wycofanie pracy), nawet je\u015bli wina le\u017cy po stronie nierozumnej maszyny.<\/span><\/p>\n

Wa\u017cny aspekt stanowi tak\u017ce <\/span>nier\u00f3wno\u015b\u0107 dost\u0119pu do technologii<\/b>. Du\u017ce modele j\u0119zykowe w wersjach zaawansowanych (np. GPT-4) s\u0105 p\u0142atne i nie ka\u017cdy badacz czy student mo\u017ce z nich skorzysta\u0107. Powstaje ryzyko, \u017ce ci, kt\u00f3rzy maj\u0105 dost\u0119p i nie cofn\u0105 si\u0119 przed nadu\u017cyciem, zyskaj\u0105 nienale\u017cn\u0105 przewag\u0119 publikacyjn\u0105. To budzi sprzeciw natury etycznej \u2013 nauka powinna opiera\u0107 si\u0119 na meritum bada\u0144, a nie sprycie w u\u017cyciu nowych narz\u0119dzi. Z drugiej strony podnosi si\u0119 argument, \u017ce <\/span>LLM mog\u0105 niwelowa\u0107 pewne nier\u00f3wno\u015bci<\/b>, np. pomagaj\u0105c naukowcom nieangloj\u0119zycznym pisa\u0107 p\u0142ynniejsze teksty po angielsku. Gdzie ko\u0144czy si\u0119 wi\u0119c dopuszczalna pomoc stylistyczna, a zaczyna nieetyczne <\/span>pisanie za kogo\u015b<\/span>?<\/span><\/p>\n

Wreszcie, nadu\u017cycie AI w nauce to problem systemowy, bo splata si\u0119 z <\/span>presj\u0105 publikacyjn\u0105<\/b> i patologiami systemu oceniania naukowc\u00f3w. Przyk\u0142adem z naszego podw\u00f3rka mo\u017ce by\u0107 np. <\/span>punktoza<\/span><\/i>, kt\u00f3ra zdaniem niekt\u00f3rych badaczy jest \u201epseudosystemem oceny pracownik\u00f3w nauki\u201d<\/span>(Katner 2025)<\/i>.<\/span> Je\u017celi uczelnie i grantodawcy rozliczaj\u0105 przede wszystkim liczb\u0119 publikacji, nietrudno zrozumie\u0107, dlaczego cz\u0119\u015b\u0107 badaczy si\u0119ga po drog\u0119 na skr\u00f3ty. Sztuczna inteligencja staje si\u0119 wtedy kolejnym narz\u0119dziem \u2013 obok plagiatu czy manipulacji danymi \u2013 do realizacji zasady \u201ecel u\u015bwi\u0119ca \u015brodki\u201d. Rozwi\u0105zanie musi wi\u0119c uwzgl\u0119dnia\u0107 szerszy kontekst kultury akademickiej.<\/span><\/p>\n

Propozycje rozwi\u0105za\u0144<\/b><\/h2>\n

Jak zatem przeciwdzia\u0142a\u0107 nadu\u017cyciom LLM i <\/span>paper mills<\/span><\/i> w nauce? <\/span><\/p>\n

Zaostrzenie polityki wydawniczej i standard\u00f3w etycznych<\/b><\/h3>\n

Wi\u0119kszo\u015b\u0107 czo\u0142owych wydawc\u00f3w ju\u017c wprowadzi\u0142a wytyczne dotycz\u0105ce u\u017cycia AI. Nale\u017cy egzekwowa\u0107 obowi\u0105zek <\/span>ujawniania wykorzystania narz\u0119dzi AI<\/b> na etapie przygotowania manuskryptu. Autorzy powinni w sekcji metodologicznej lub podzi\u0119kowaniach jasno wskaza\u0107, czy np. u\u017cyli ChatuGPT do redakcji tekstu. Ukrywanie takiego faktu mo\u017cna traktowa\u0107 jako naruszenie etyki autorstwa. Ponadto utrzymany musi by\u0107 kategoryczny zakaz wpisywania modeli AI jako wsp\u00f3\u0142autor\u00f3w (co wynika chocia\u017cby z wymogu, by autor pracowa\u0142 \u015bwiadomie nad koncepcj\u0105 i odpowiada\u0142 za tre\u015b\u0107). Redakcje powinny te\u017c <\/span>rozszerzy\u0107 deklaracje autor\u00f3w<\/b> przed publikacj\u0105 o zapewnienie, \u017ce praca nie zosta\u0142a napisana ani przet\u0142umaczona w ca\u0142o\u015bci przez AI bez nadzoru cz\u0142owieka. Takie kroki \u2013 cho\u0107 bazuj\u0105 na zaufaniu \u2013 tworz\u0105 formaln\u0105 barier\u0119 i mog\u0105 dzia\u0142a\u0107 odstraszaj\u0105co na mniej zdeterminowanych oszust\u00f3w.<\/span><\/p>\n

Technologiczne systemy wykrywania deepfake\u2019owych<\/em> prac<\/b><\/h3>\n

Skala publikacji (miliony rocznie) wymaga wsparcia automatycznego. Trwaj\u0105 prace nad algorytmami wykrywaj\u0105cymi tekst wygenerowany przez AI<\/b> \u2013 niestety na razie ich skuteczno\u015b\u0107 jest ograniczona, a wy\u015bcig zbroje\u0144 trwa (ka\u017cdy nowy model j\u0119zykowy lepiej maskuje swoje \u015blady). Mimo to, kombinacja r\u00f3\u017cnych metod mo\u017ce da\u0107 dobre wyniki. Proponuje si\u0119 np. analiz\u0119 stylometryczn\u0105<\/b> na poziomie ca\u0142ych zbior\u00f3w, by wy\u0142apa\u0107 statystyczne anomalie w cz\u0119sto\u015bci s\u0142\u00f3w czy konstrukcjach zda\u0144 charakterystycznych dla AI (Liang et al. 2024)<\/i>. Innym podej\u015bciem jest weryfikacja krzy\u017cowa \u017ar\u00f3de\u0142 i cytowa\u0144<\/b> \u2013 model generatywny cz\u0119sto \u201ehalucynuje\u201d bibliografi\u0119, wi\u0119c prace z nieistniej\u0105cymi lub niepasuj\u0105cymi cytowaniami powinny wzbudza\u0107 alarm. Du\u017ce wydawnictwa (zrzeszone m.in. w organizacji STM) tworz\u0105 wsp\u00f3ln\u0105 platform\u0119 \u2013 Integrity Hub<\/b> \u2013 gdzie wykorzystuje si\u0119 machine learning<\/i> do wykrywania duplikat\u00f3w, plagiat\u00f3w obraz\u00f3w i powtarzalnych wzorc\u00f3w mog\u0105cych \u015bwiadczy\u0107 o dzia\u0142aniu paper mill (WEB1<\/a>). Przyk\u0142adowo, prototypowe narz\u0119dzie por\u00f3wnuje zg\u0142aszane manuskrypty z baz\u0105 wcze\u015bniej zidentyfikowanych fa\u0142szywych prac, szukaj\u0105c podobnych wykres\u00f3w, tabel czy nietypowych sformu\u0142owa\u0144. W testach AI wychwyci\u0142a nawet wi\u0119cej podejrzanych obraz\u00f3w ni\u017c do\u015bwiadczony \u201eludzki detektyw\u201d <\/b>(Jones 2024)<\/i>, co pokazuje potencja\u0142 takiej automatyzacji.<\/p>\n

Ciekawym pomys\u0142em jest tak\u017ce <\/span>znakowanie tre\u015bci generowanych przez AI<\/b> na etapie ich tworzenia. Np. OpenAI eksperymentowa\u0142o z <\/span>watermarkingiem<\/span><\/i>, co u\u0142atwi\u0142oby p\u00f3\u017aniejsz\u0105 detekcj\u0119 <\/span>(Kirchenbauer et al. 2023)<\/i>. Gdyby tw\u00f3rcy modeli wprowadzili takie znaczniki, czasopisma mog\u0142yby skanowa\u0107 nades\u0142ane artyku\u0142y pod ich k\u0105tem. Niestety, \u0142atwo je obej\u015b\u0107, zwyczajnie przepisuj\u0105c wygenerowany tekst.<\/span><\/p>\n

Otwarto\u015b\u0107 i transparentno\u015b\u0107 procesu badawczego<\/b><\/h3>\n

Wielu ekspert\u00f3w wskazuje, \u017ce <\/span>otwarta nauka<\/b> mo\u017ce ograniczy\u0107 pole do nadu\u017cy\u0107 (<\/span>WEB1<\/span><\/a>). Je\u017celi czasopisma b\u0119d\u0105 wymaga\u0107 udost\u0119pnienia surowych danych, kodu i szczeg\u00f3\u0142owych protoko\u0142\u00f3w bada\u0144 jako warunku publikacji, oszustom b\u0119dzie trudniej podrobi\u0107 ca\u0142e badania. \u0141atwiej zauwa\u017cy\u0107, \u017ce np. przedstawione dane s\u0105 niekompletne lub niezgodne z opisem do\u015bwiadczenia. Ponadto, promowanie <\/span>publikacji negatywnych wynik\u00f3w i replikacji<\/b> zniech\u0119ci do produkowania pozornie prze\u0142omowych odkry\u0107 \u2013 skoro i tak cenione b\u0119d\u0105 solidne, weryfikowalne prace. Wreszcie, <\/span>otwarte recenzje<\/b> (jawno\u015b\u0107 recenzent\u00f3w i ich opinii) mog\u0105 zwi\u0119kszy\u0107 odpowiedzialno\u015b\u0107 obu stron i utrudni\u0107 dzia\u0142anie zorganizowanym fabrykom (trudniej \u201ewcisn\u0105\u0107\u201d fa\u0142szywk\u0119, je\u015bli recenzje s\u0105 publicznie dost\u0119pne).<\/span><\/p>\n

Zmiany systemowe w ocenie naukowc\u00f3w<\/b><\/h3>\n

D\u0142ugofalowo, spo\u0142eczno\u015b\u0107 naukowa musi zmierzy\u0107 si\u0119 z kulturowym \u017ar\u00f3d\u0142em problemu: nadmiern\u0105 fetyszyzacj\u0105 liczby publikacji i \u201eszybkiego\u2019\u2019 sukcesu. <\/span>Reforma systemu ewaluacji<\/b> \u2013 uwzgl\u0119dnienie jako\u015bci nad ilo\u015bci\u0105, docenianie wsp\u00f3\u0142pracy, danych, zasob\u00f3w, a nie tylko artyku\u0142\u00f3w \u2013 zmniejszy\u0142aby popyt na us\u0142ugi paper mills<\/em>. Je\u017celi awans naukowy nie b\u0119dzie ju\u017c uzale\u017cniony od publikacji za wszelk\u0105 cen\u0119, pokusa oszustwa os\u0142abnie. To oczywi\u015bcie trudne zadanie wymagaj\u0105ce konsensusu instytucji finansuj\u0105cych i uczelni na ca\u0142ym \u015bwiecie. Niemniej, pojawiaj\u0105 si\u0119 inicjatywy typu DORA (San Francisco Declaration on Research Assessment) promuj\u0105ce tak\u0105 zmian\u0119 kultury oceniania.<\/span><\/p>\n

Edukacja i budowanie \u015bwiadomo\u015bci<\/b><\/h3>\n

Warto zainwestowa\u0107 w szkolenia m\u0142odych naukowc\u00f3w z zakresu etyki i dobrych praktyk<\/b> publikacyjnych. Programy doktoranckie coraz cz\u0119\u015bciej obejmuj\u0105 modu\u0142y o tym, jak rozpoznawa\u0107 manipulacje, unika\u0107 uprzedze\u0144, poprawnie korzysta\u0107 z AI jako narz\u0119dzia pomocniczego, a nie protezy badawczej. Istotne jest, by ju\u017c na etapie studi\u00f3w u\u015bwiadamia\u0107, \u017ce korzystanie z \u201egotowc\u00f3w\u201d z internetu czy z generator\u00f3w tekstu bez w\u0142o\u017cenia w\u0142asnej pracy to nie tylko ryzyko blama\u017cu, ale i etyczne zaniedbanie wobec spo\u0142eczno\u015bci naukowej. R\u00f3wnie\u017c wydawcy prowadz\u0105 kampanie informacyjne, publikuj\u0105 wytyczne i studia przypadk\u00f3w, kt\u00f3re pokazuj\u0105, jak wygl\u0105da typowy produkt paper mill<\/em> i dlaczego stanowi zagro\u017cenie. Przyk\u0142ady g\u0142o\u015bnych wycofa\u0144 artyku\u0142\u00f3w czy nawet ca\u0142ych czasopism mog\u0105 tu dzia\u0142a\u0107 odstraszaj\u0105co.<\/p>\n

Na koniec warto podkre\u015bli\u0107, \u017ce walka z pseudonauk\u0105 generowan\u0105 przez AI to zadanie <\/span>wielostronne<\/b>. Wymaga wsp\u00f3\u0142pracy informatyk\u00f3w, wydawc\u00f3w, redaktor\u00f3w, recenzent\u00f3w i samych autor\u00f3w. Takie inicjatywy ju\u017c si\u0119 pojawiaj\u0105 \u2013 cho\u0107by wspomniany <\/span>STM Integrity Hub jest efektem konsorcjum wydawc\u00f3w dziel\u0105cych si\u0119 danymi o podejrzanych manuskryptach. Kluczowe jest te\u017c wsparcie instytucjonalne: agencje rz\u0105dowe i organizacje grantowe (np. komisje ds. etyki w r\u00f3\u017cnych krajach) mog\u0105 ustanowi\u0107 jasne regulacje i sankcje za nadu\u017cycia z u\u017cyciem AI.<\/span><\/p>\n

Warto zauwa\u017cy\u0107, \u017ce niekt\u00f3rzy komentatorzy zachowuj\u0105 umiarkowany optymizm: <\/span>\u201epowa\u017cni naukowcy raczej nie b\u0119d\u0105 masowo korzysta\u0107 z AI do oszustw, bo ryzyko wykrycia i konsekwencji jest zbyt du\u017ce\u201d<\/b>. Argumentuj\u0105, \u017ce reputacja w nauce to waluta, kt\u00f3rej nie op\u0142aca si\u0119 niszczy\u0107 dla kr\u00f3tkotrwa\u0142ego zysku <\/span>(Else 2023)<\/i>. Mimo to, bior\u0105c pod uwag\u0119 dotychczasowe do\u015bwiadczenia z plagami plagiat\u00f3w czy sfabrykowanych danych, spo\u0142eczno\u015b\u0107 naukowa woli nie pozostawia\u0107 spraw w\u0142asnemu biegowi.<\/span><\/p>\n

Wnioski<\/b><\/h2>\n

Zar\u00f3wno <\/span>paper mills<\/span><\/i>, jak i generatywna AI stawiaj\u0105 przed nauk\u0105 ogromne wyzwanie, kt\u00f3re mo\u017cna por\u00f3wna\u0107 do walki spo\u0142ecze\u0144stwa z fake newsami i deepfake\u2019ami. Stawk\u0105 jest <\/span>wiarygodno\u015b\u0107 wiedzy naukowej<\/b> \u2013 fundament post\u0119pu i zaufania spo\u0142ecznego do ekspert\u00f3w. Je\u015bli zalew syntetycznych prac podwa\u017cy t\u0119 wiarygodno\u015b\u0107, konsekwencje odczujemy wszyscy: od spowolnienia rozwoju nauk medycznych po erozj\u0119 o\u015bwieceniowego autorytetu nauki w debacie publicznej.<\/span><\/p>\n

Jak jednak pokazali\u015bmy, istniej\u0105 konkretne kroki, kt\u00f3re mog\u0105 zapobiec najgorszemu scenariuszowi. Po pierwsze, <\/span>\u015bwiat naukowy nie jest bezbronny<\/b> \u2013 dysponujemy rosn\u0105c\u0105 \u015bwiadomo\u015bci\u0105 problemu, wsparciem technologicznym (AI przeciwko AI) oraz sprawdzonymi metodami krzewienia etyki i transparentno\u015bci. Po drugie, historia uczy, \u017ce nauka ma zdolno\u015b\u0107 samonaprawy, gdy\u017c<\/span>\u00a0wykrywanie i wycofywanie fa\u0142szywych publikacji ju\u017c dzia\u0142aj\u0105.<\/span><\/p>\n

Nie oznacza to, \u017ce mo\u017cna zlekcewa\u017cy\u0107 zagro\u017cenie. Wr\u0119cz przeciwnie \u2013 <\/span>musimy dzia\u0142a\u0107 proaktywnie<\/b>. Ustanowienie nowych standard\u00f3w (dotycz\u0105cych u\u017cycia AI), inwestycja w systemy weryfikacji oraz reforma oceny publikacji w nauce to elementy kompleksowej strategii. Wymaga ona globalnej wsp\u00f3\u0142pracy: pojedyncze czasopismo czy uczelnia nie powstrzyma fali, ale skoordynowane dzia\u0142anie wielu podmiot\u00f3w ju\u017c mo\u017ce.<\/span><\/p>\n

Podsumowuj\u0105c, <\/span>paper mills<\/span><\/i> i nadu\u017cycia LLM s\u0105 dla nauki pr\u00f3b\u0105 charakteru. Czy obronimy integralno\u015b\u0107 procesu naukowego w dobie coraz pot\u0119\u017cniejszych algorytm\u00f3w? Ostatecznie <\/span>to od ludzi zale\u017cy, jak wykorzystaj\u0105 AI \u2013 czy jako narz\u0119dzie wspieraj\u0105ce tw\u00f3rczo\u015b\u0107 i innowacje, czy jako drog\u0119 na skr\u00f3ty podkopuj\u0105c\u0105 sens pracy badawczej. Wybieraj\u0105c pierwsz\u0105 z tych dr\u00f3g i wdra\u017caj\u0105c opisane rozwi\u0105zania, mo\u017cemy sprawi\u0107, \u017ce zamiast kryzysu wiarygodno\u015bci czeka nas <\/span>ewolucja<\/span> praktyk naukowych, w kt\u00f3rej AI s\u0142u\u017cy nauce, a nie jej szkodzi. <\/span>Naszym zadaniem jest nie dopu\u015bci\u0107, by ta pesymistyczna wizja spe\u0142ni\u0142a si\u0119 w \u015bwiecie nauki.<\/span><\/p>\n