NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
Peer-reviewed kiezen en databases checken, maar wel een zorgelijke ontwikkelingquote:De wetenschappelijke wereld kampt met een groeiend integriteitsprobleem. Door een ongekende publicatiedruk en toenemende internationale competitie ontstaat er een ware ‘sjoemelindustrie’, zo waarschuwt wetenschapsjournalist Stan van Pelt in het radioprogramma Argos. Het resultaat? Een explosieve stijging van het aantal ingetrokken publicaties.
Het aantal wetenschappelijke artikelen dat vanwege ernstige onvolkomenheden wordt teruggetrokken, is in twintig jaar tijd ruim zeven keer zo groot geworden. De komst van kunstmatige intelligentie (AI) dreigt dit probleem verder te verergeren, doordat het produceren van frauduleuze content eenvoudiger is dan ooit.
De opkomst van de ‘paper mills’
Volgens Van Pelt profiteren criminele organisaties – zogenaamde ‘paper mills’ – direct van de moordende concurrentie in de academische wereld. Deze malafide bedrijven produceren op bestelling wetenschappelijke artikelen die vervolgens in tijdschriften belanden.
Van Pelt trekt een harde vergelijking: "Het vormt het betonrot van de hele wetenschap. Je krijgt nepinformatie die de wetenschappelijke literatuur binnensijpelt."
Daarnaast maken wetenschappers die hun cv willen opkrikken gebruik van dubieuze tijdschriften. Deze bladen presenteren zich als legitiem, maar laten de essentiėle kwaliteitscontrole – de peer review – achterwege. "Dat maakt het heel makkelijk om een lange publicatielijst te veinzen", aldus de journalist. Hij concludeert dat de interne zelfcontrole van de wetenschap momenteel tekortschiet.
Roep om systeemverandering
Hoewel gerenommeerde uitgeverijen proberen het tij te keren met integriteitsafdelingen en gespecialiseerde software, en er steeds meer ‘internetdetectives’ zijn die actief speuren naar frauduleuze artikelen, volstaat dit volgens Van Pelt niet.
De journalist pleit voor een fundamentele cultuurverandering:
Aanpak van de competitie: Het ongezonde belang van kwantiteit (hoeveelheid publicaties) moet worden verminderd.
Focus op kwaliteit: Er is rust nodig in het systeem om de wetenschappelijke integriteit te waarborgen.
Hoewel de noodzaak voor hervorming evident is, waarschuwt Van Pelt dat een oplossing lastig is. Het probleem is verweven in een mondiale dynamiek die vraagt om een internationale aanpak, die makkelijker gezegd dan gedaan is.
Bron
Dit probleem heeft niets met AI te maken. Sterker nog LLMs kunnen helpen bij het zoeken naar niet alleen frauduleuze papers maar ook naar papers die simpelweg van zulke lage kwaliteit zijn en niet repliceerbaar dat ze ook ingetrokken moeten worden.
Alles wat onder de 'social sciences' valt van pakweg 2010 tot nu is verdacht.
Alles wat onder de 'social sciences' valt van pakweg 2010 tot nu is verdacht.
We zijn in de volgende fase van AI-slop belandt: AI-modellen die hallucineren doordat ze getraind worden op hun eigen hallucinaties.
You can learn anything, the secret lies in discipline.
"What the mind can conceive and believe, it can achieve"
You will make mistakes. Forgive yourself. Move on. Start rebuilding.
"What the mind can conceive and believe, it can achieve"
You will make mistakes. Forgive yourself. Move on. Start rebuilding.
Daarvoor ook al, zij het iets minder voor de wokemanie.quote:Op donderdag 5 maart 2026 20:00 schreef MoreDakka het volgende:
Dit probleem heeft niets met AI te maken. Sterker nog LLMs kunnen helpen bij het zoeken naar niet alleen frauduleuze papers maar ook naar papers die simpelweg van zulke lage kwaliteit zijn en niet repliceerbaar dat ze ook ingetrokken moeten worden.
Alles wat onder de 'social sciences' valt van pakweg 2010 tot nu is verdacht.
AI is het voorbeeld van confirmation bias. Het zal namelijk, zeker in gevallen van grote, Gemini etc je naar de mond praten.
''Tuurlijk is het een onoogelijk lelijk spuugding. Kun je d'r toch nog wel aan gehecht zijn? Je houdt toch ook van je moeder?''
Jep. Heerlijk zelfversterkend effectquote:
We zijn in de volgende fase van AI-slop belandt: AI-modellen die hallucineren doordat ze getraind worden op hun eigen hallucinaties.
Er was laatst een wetenschapper in het nieuws,
Een of andere hoogleraar/professor.
Die had 2 jaar aan werk kwijtgeraakt.
Dat had hij opgeslagen binnen OpenAI.
Op een gegeven moment dacht hij, hey openAI moet ook volgens de AVG werken, en bedacht zich een heel goed plan.
Hij vroeg de chatbot: wis al mijn data.
Toen was hij al zijn data dus kwijt.
En schreef er een klaagstuk over aan AD
Een of andere hoogleraar/professor.
Die had 2 jaar aan werk kwijtgeraakt.
Dat had hij opgeslagen binnen OpenAI.
Op een gegeven moment dacht hij, hey openAI moet ook volgens de AVG werken, en bedacht zich een heel goed plan.
Hij vroeg de chatbot: wis al mijn data.
Toen was hij al zijn data dus kwijt.
En schreef er een klaagstuk over aan AD
Vakman pur sang
Volgens mij is dit probleem al decennia gaande in de sociale wetenschappen (iets met replicatie crisis).
Denk dat AI juisr mooie kansen biedt om het op te sporen. T zal nu wel even verloederen allemaal, maar heb goede hoop dat het integer onderzoek uiteindelijk ook weer naar een hoger niveau kan tillen.
Denk dat AI juisr mooie kansen biedt om het op te sporen. T zal nu wel even verloederen allemaal, maar heb goede hoop dat het integer onderzoek uiteindelijk ook weer naar een hoger niveau kan tillen.
|
|
