Utapa li se znanost u smeću umjetne inteligencije?

Autorica: prof. dr. sc. Livia Puljak, dr. med.

„Znanost se utapa u AI smeću“. Tako je novinar Ross Andersen naslovio svoj članak objavljen 22. siječnja 2026. u časopisu The Atlantic. Piše Andersen da je znanstveno izdavaštvo suočeno s masovnim priljevom radova koje je generirala umjetna inteligencija (engl. artificial intelligence, AI), lažnih citata i slika te organiziranih tvornica lažnih radova, što preopterećuje sustav recenzije, potkopava povjerenje u znanstvenu literaturu i prijeti scenarijem u kojem umjetna inteligencija piše, recenzira i umnaža vlastito epistemološko zagađenje bez stvarne ljudske kontrole.
 
Disruptivni potencijal

Otkako je ChatGPT objavljen u studenom 2022. godine, zaista se dogodilo mnogo promjena u svijetu znanstvenog izdavaštva i akademskog pisanja. Dobili smo odjednom taj alat i zatim mnogo njegove rodbine, a s tim i mnoge nepoznanice. U početku je vladala velika zadrška oko korištenja umjetne inteligencije za bilo što u znanost. Nisam bila među ljudima koji su se toga odmah prihvatili. Moja prva reakcija je bila – meni to ne treba, i ne vidim kako bi to bilo etično, i to me apsolutno ne zanima. Međutim, predomislila sam se kad sam pročitala članak objavljen u časopisu Nature koji se zvao ChatGPT: five priorities for research. U tom su članku autori napisali da veliki jezični modeli (engl. large language models, LLM) kao što je ChatGPT imaju veliki disruptivni potencijal, zbog čega znanstvena zajednica treba hitno početi o tome raspravljati. Za početak su preporučili da svaka istraživačka grupa iskuša ChatGPT (ako već nije). Temeljna poruka je bila – tehnologija je stigla, na nama je da se prilagodimo, na nama je da to koristimo ako nam može koristiti, da stvorimo pravila i osobito je važno da se pripremimo kako odgovoriti na to jer će naši studenti to sigurno koristiti. I tako sam i ja u ožujku 2023. počela koristiti ChatGPT, a zatim i različite druge alate AI.

I kakvo je moje iskustvo? Ti alati neke stvari naprave savršeno, a neke zabrljaju spektakularno. Kad ih upozorim na greške, nekad ustraju da nisu pogriješili. Dakle, znaju biti vrlo tvrdoglavi. Usput su ti alati i vrlo pristojni pa će i zahvaliti nekad jer si im nešto pojasnio, a i ispričati se ljubazno kad napokon shvate da zaista jesu u krivu. Nervira me pompozni jezik kojim se automatski služe i naučila sam prepoznavati po raznim signalima tekst koji je stvorila AI. Pa kad ljude upozorim na neke nebuloze koje su mi poslali, a za koje odmah vidim da je to proizvod AI, redovito slušam „ma nije to do mene, to je napravila umjetna inteligencija.“ Nažalost, ljudi očito ne kopčaju da – jest do njih. To su alati koje ne smijemo koristiti nekritično. Ako nešto šaljemo kao svoj tekst, onda smo mi odgovorni za to, a ne umjetna inteligencija.
 
Znanstveno izdavaštvo preplavljeno je smećem koje generira AI?

U svijetu znanstvene literature isto ima ljudi koji koriste AI i kad naprave greške misle da – nije do njih. Jedan kolega je nešto totalno zabrljao u opisu metodologije svog istraživanja i kad sam ga na to upozorila on širi ruke nemoćno i kaže – pa što ću ja, to mi je napisala umjetna inteligencija. Hah, što će on. Ispada da je on jadan posve bespomoćan u srazu s moćnom nemani AI.

Dobro je dokumentirano da je uvođenje ChatGPT-ja u studenom 2022. u znanstvenom izdavaštvu izazvalo seizmičke promjene – da se poslužim pompoznim jezikom kakav koriste alati AI. Odnosno, prosto rečeno, bio je to jako veliki potres čije posljedice ćemo dugo osjećati. Podatci pokazuju da nije došlo samo do promjene u broju, već i u samoj prirodi članaka koje zaprimaju časopisi.

Mnogi časopisi izvještavaju o naglom povećanju broja zaprimljenih članaka (tzv. submission rate). U nekim disciplinama bilježi se hiperprodukcija; broj radova poslanih u časopise povećao se za 25% do 50% u prvoj godini nakon objave ChatGPT-ja.
Zatim, poznato je da postoje tvornice lažnih radova (engl. research paper mills) koje izmišljaju radove iz temelja. AI je omogućio tim tvornicama radova da automatiziraju proces pisanja, što je dovelo do masovnog slanja radova koji na prvi pogled izgledaju znanstveno utemeljeno, ali su zapravo stvoreni u nekoliko minuta po modelu nekog drugog rada koji već postoji.

Urednici su počeli odbijati rekordan broj radova već na prvom pregledu, bez slanja na recenziju. Razlog je često nizak stupanj originalnosti ili uočavanje sadržaja koji izgleda kao da ga je generirala AI, i koji ne donosi nove znanstvene spoznaje. Nadalje, dok se povećava broj, paralelno s tim se ne povećava broj stručnjaka voljnih da ih recenziraju, što dovodi do krize sustava recenzija u časopisu.

Naravno, nisu svi časopisi osjetili isti pritisak. Časopisi koji prihvaćaju teorijske i pregledne radove u mnogo većem su problemu. Najveći skok zabilježen je kod običnih najobičnijih preglednih radova (engl. review articles). Budući da AI izvrsno sažima postojeće informacije, iako ponekad uz halucinacije, autori su masovno počeli u časopise slati pregledne članke koje je složila AI.

Naprotiv, časopisi koji zahtijevaju da autori pošalju i neobrađene podatke (engl. raw data), laboratorijske protokole i originalne slike (npr. Western Blot ili mikroskopiju) zabilježili su manji skok, jer AI teže lažira složene eksperimentalne dokaze.
 
Što otkriva korištenje AI u znanstvenim radovima?

Postoji više potencijalnih znakova da je korištena AI za pripremu znanstvenih članaka. To su promjene u jeziku i stilu, promjena u strukturi rada, halucinirane reference, i povećana produktivnost. Što se tiče jezika i stila, znanstvenici su zabilježili neuobičajene promjene u jeziku radova nakon studenoga 2022. Uočeno je da alati AI često koriste određene prepoznatljive izraze, koje istraživači nazivaju ChatGPT-izmima. Među njima su, primjerice, engleske riječi delve, intricate, meticulous, pivotal i underscore, čija se uporaba znatno povećala u znanstvenim člancima nakon 2022. godine.

Kad su u pitanju promjene u strukturi rada, radovi sada sve češće postaju više strukturirani i više generički, sličniji po načinu oblikovanja uvoda i zaključaka, i skloni općenitim formulacijama bez dubinske analize. Primjer jedne takve pompozne rečenice bez puno suštine glasio bi: „Ovaj rad otvara transformativni prostor za buduća istraživanja koja će redefinirati epistemološke granice suvremene znanosti“.
Zatim, čest problem su potpuno izmišljene literaturne reference. To je čisti primjer halucinacija alata AI. Halucinacija umjetne inteligencije je situacija u kojoj AI sustav (npr. ChatGPT) iznese informaciju koja zvuči uvjerljivo i samopouzdano, ali je netočna. U slučaju referenci, izmisli znanstveni članak koji ne postoji. Modeli AI haluciniraju jer ne “znaju” činjenice na način na koji ih znaju ljudi. To su matematički modeli. Oni samo predviđaju sljedeću najvjerojatniju riječ na temelju uzoraka u podacima. Osim toga, ponekad daju odgovor čak i kada nemaju pouzdanu informaciju. Njihov cilj je stvoriti suvisao tekst, a ne provjeravati istinitost u realnom vremenu.

A što se tiče produktivnosti, u nekim je disciplinama i kod nekih autora zabilježeno naglo povećanje broja objavljenih radova u kratkom razdoblju, što može ukazati na intenzivno korištenje AI alata za pisanje, sažimanje ili uređivanje.

Naravno, ništa od toga samo po sebi ne mora nužno biti problematično. Možda autori koriste AI da im pomogne u popravljanju engleskog jezika jer nisu izvorni govornici. Ja sam u toj kategoriji. Ali ja popravljam ono što mi ti alati ponude, ne uzimam nekritično sve njihove prijedloge. Zatim, sama činjenica da je rad drugačije strukturiran ne ukazuje nužno na kakav problem u radu. I, na koncu, ljudi mogu postati znanstveno produktivniji zbog raznih razloga. No, ako je netko godinama objavljivao prosječno jedan rad godišnje, a nakon 2022. je počeo objavljivati ogroman broj radova, to bi moglo biti sumnjivo.
 
Kako otkriti potpuno lažne radove?

To je li netko koristio AI za malo popraviti jezik članka, to je totalno sporedno. Pa makar tamo gledali te ljupke riječi delving i underscore. Pravi je problem kad se objave članci koje je AI potpuno izmislila. To bi bilo ono što rade tvornice lažnih članaka. Prvi slučajevi djelovanja takvih pogona zabilježeni su prije 15-ak godina a od tada njihova aktivnost raste u opsegu i sofisticiranosti. U posljednjih 20 godina objavljeno je više od 400 000 radova za koje se sumnja da potječu iz takvih tvornica, pri čemu one godišnje ostvaruju zaradu od desetaka milijuna dolara. Problem je postao osobito vidljiv kada je izdavač Wiley preuzeo izdavača Hindawi. Pa je onda Wiley vidio u što se uvalio i povukao gotovo 11 000 radova za koje se sumnjalo da potječu iz tih tvornica radova te u razdoblju od dvije godine ugasio 19 časopisa.
No, nije dovoljno samo biti svjestan da takvi radovi postoje nego je pitanje kako ih otkriti i spriječiti njihovu objavu da ne kontaminiraju znanstvenu literaturu. Scancar i suradnici u siječnju 2026. u BMJ-u su objavili članak u kojem opisuju kako su koristili AI kao pomoć u prepoznavanju lažnih radova u istraživanjima raka. Razvili su i validirali model BERT koji analizira samo naslov i sažetak rada. Taj je model treniran na 2202 povučena (engl. retracted) rada označena kao “paper mill publication” u bazi Retraction Watch, uz jednaki broj kontrolnih radova. Zatim su prošarali PubMed i analizirali više od 2 milijuna originalnih radova iz onkoloških istraživanja objavljenih od 1999. do 2024. Njihov je model označio da je 261.245 radova po tekstu slično “paper mill” radovima. No, važna napomena glasi da “označeno” znači sličnost teksta, a ne definitivni dokaz prevare na razini pojedinačnog rada. Međutim, razmjeri i trendovi ukazuju na sustavni problem, i to ne samo u lošijim časopisima nego i onima visokog ranga.
 
Reakcija izdavača

Nakon početnog šoka, izdavači su krenuli nešto raditi po pitanju AI. Primjerice, uveli su obaveznu izjavu o AI. Većina časopisa sada zahtijeva od autora izjavu je li i u kojoj mjeri korišten AI. Također, neki časopisi su u svoj sustav zaprimanja radova uveli tzv. detektore AI sadržaja. Ali, opet, što god ti detektori pokažu, to još uvijek nije pouzdano. Imate na internetu gomilu tih stranica koje tvrde da otkrivaju korištenje AI. Pa kopirate u te stranice neki tekst i dobijete broj koji izražava postotak vjerojatnosti da je to napisala AI. Međutim, nije baš jasno kako rade ti programi, i ja sam svjedok da nisu nužno uopće pouzdani. Kad sam prvi put išla testirati kako to radi, upisala sam u jednu od tih stranica tekst iz jednog znanstvenog članka koji sam sama samcata napisala. Program je dao rezultat da postoji 89%-tna vjerojatnost da je to napisala umjetna inteligencija. To bi mogao biti možda dokaz da u meni nema puno prirodne inteligencije.

Sad su se pojavili i detektori haluciniranih referenci. Odlično, pomislila sam, evo i za te izmišljene reference nađeno je rješenje. Odlučila sam to testirati isti tren kad sam pročitala da to postoji. Na računalu ispred mene bio je otvoren protokol istraživanja koji je napisao moj dragi suradnik dr. Andrija Babić. Nisam imala nikakvog razloga sumnjati u Andrijin integritet nego, eto, taj dokument bio je oportuno ispred mene. Kopirala sam sve reference iz Andrijinog rada u jedan od tih detektora izmišljenih referenci. I taj detektor postavi dijagnozu da je od 15 referenci koje sam kopirala jedna izmišljena. Onda sam išla provjeriti je li to stvarno izmišljotina, i uopće nije. To je bila referenca na pravi pravcati postojeći znanstveni članak koji su kolege Alan Ayoub, Bruno Gross, Tomislav Knotek i Maša Sorić objavili 2025. u časopisu Annales Medicinae Urgentis na temu uvođenja hitne helikopterske medicinske službe u Hrvatskoj. Dakle, tom detektoru treba još jedan detektor točnosti da ga nadzire.
 
Epistemološko zagađenje bez stvarne ljudske kontrole?

I još na koncu idemo na te bojazni o epistemološkom zagađenju znanosti zbog AI. Ta epistemologija – to bi sad već bio ulazak u filozofiju. Epistemologija je grana filozofije koja proučava što je znanje, kako ono nastaje, kako razlikujemo istinito od neistinitog te koji su njegovi izvori, poput opažanja, iskustva, razuma ili svjedočanstva. Također se bavi pitanjem što neku tvrdnju čini opravdanom i pouzdanom. U kontekstu znanosti epistemologija propituje kako znamo da je neko istraživanje valjano, što čini dokaz pouzdanim i kada možemo reći da je određena tvrdnja doista znanstveno utemeljena. Pojam epistemološko zagađenje koristi se kao metafora. Kao što okoliš može biti zagađen otpadom ili otrovima, tako i informacijski prostor znanosti može biti narušen nepouzdanim, netočnim ili lažnim sadržajem.

Fraza epistemološko zagađenje može se odnositi na dvije razine. Prvi je problem ako modeli AI stvore netočnosti i površnosti koje ulaze u znanstvenu literaturu. Drugi je problem pojačanje problema ako se na takvim radovima treniraju modeli pa se onda može stvoriti povratna petlja u kojoj se problemi i površnosti ponavljaju i umnažaju. Tako smeće stvara novo smeće, u još većim količinama. Problem, dakle, nije samo u pojedinačnim pogreškama, nego u tome što takve pogreške mogu narušiti sam sustav proizvodnje i provjere znanja.
 
Problem nije umjetna inteligencija nego ljudi

Što god se sad uočava kao problem korištenja AI u znanosti, trebamo biti svjesni da nije problem sama AI nego su problem ljudi koji te alate površno i nekritično koriste. Dok god ima ljudi koji žele imati znanstvene radove, a da zapravo ne znaju što je znanost i znanstveni proces, niti ih to zanima, bit će i površnosti i nezainteresiranosti. Ima puno sustava koji nagrađuju kvantitetu napredovanjem ili broj radova nagrađuju financijski. To dovodi do toga da pojedinci žele imati znanstvene titule, upravljačke pozicije i više radova, na bilo koji način. Ne postiže se ta sumnjiva kvantiteta samo umjetnom inteligencijom. Da je barem AI jedini naš problem. Meni se svako malo javi neka firma koja mi nudi od 1000 do 4500 USD da prodam nekom autorsko mjesto na svom znanstvenom radu, uz nimalo suptilnu napomenu da se najviše cijene prva autorstva. Nema valjda dana da me netko ne ucjenjuje da će mi nešto napraviti jedino ako može biti autor na nekom mom radu. Bojim se da će mi jednog dana u pekari simpatična Filipinka reći da mi neće prodati kruh ako neće biti koautorica na mome nečemu. Dok god živimo u svijetu u kojem su publikacije roba koja se trži novcem i utjecajem, nije umjetna inteligencija naš glavni problem.

A za AI ćemo sigurno naći neka bolja rješenja od ovih koja imamo sad, koja će nam pomoći da se bolje nosimo s njenom površnošću, greškama i lažnim radovima. Ljudi su vrlo kreativni. Znanost se već nosila s koječime i preživjela. Optimistična sam da ćemo naći rješenje i za izazove koje nam predstavlja umjetna inteligencija.

Literatura

• Andersen R. Science is drowning in ai slop. The Atlantic [Internet]. 22. siječnja 2026; Dostupno na: https://www.theatlantic.com/science/2026/01/ai-slop-science-publishing/685704/
• Ayoub A, Gross B, Knotek T, Sorić M. Introduction of helicopter emergency medical services in Croatia: a perspective from the receiving hospital. Annales Medicinae Urgentis. 2025;1(1):54-59.
• Scancar B, i sur. Machine learning based screening of potential paper mill publications in cancer research: methodological and cross sectional study. BMJ. 2026;392:e087581.
• van Dis EAM, i sur. ChatGPT: five priorities for research. Nature. 2023;614(7947):224-226.

Objavljeno: Liječničke novine br. 247 – ožujak 2026.