Helt eller delvis falska studier producerade med hjälp av AI riskerar trovärdigheten för forskningen. Det menar initiativtagarna till den workshop som hölls vid Vetenskapsakademien på försommaren. Nu publicerar Dan Larhammar, Uppsala universitet och tidigare ordförande för Akademien samt Bernhard Sabel, Otto-von-Guericke-University of Magdeburg, Tyskland, förslag på åtgärder i Stockholm Declaration.
Hundratusentals fuskartiklar, mer eller mindre genererade av AI, har på senare år börjat dränka det vetenskapliga systemet. Detta riskerar att underminera den helt grundläggande trovärdigheten för vetenskapen. Det blir svårt att bygga vidare på forskning som i sin helhet, eller i vissa delar, inte stämmer. Och naturligtvis omöjligt att upprepa studier som kanske inte ens genomförts från första början.
– Hela vår samhällsutveckling bygger på att vi har en faktagrund att stå på. Det är uppenbart när det gäller medicinska behandlingar där patienter kan komma till skada eller till och med dö. Men man kan också tänka sig att broar och byggnader rasar om de beräkningar de bygger på inte är korrekta. Och om nationalekonomiska modeller inte stämmer kan beslutsfattare få felaktigt underlag. Ytterst vilar våra demokratier på att vi kan göra informerade val och därför är det så viktigt att grundinformationen är korrekt, säger Dan Larhammar.
Prioritera kvalitet
Han menar att det nu är dags att forskarna själva tar tag i problemet och hittar motåtgärder. Det finns nämligen något i uppbyggnaden av hela det vetenskapliga systemet som kan locka till fusk.
För att meritera sig har det krävts av forskare att de publicerar så mycket som möjligt. Att i stället för kvantitet styra mot kvalitet när forskare söker anställning kan vara ett sätt att komma bort ifrån detta. Dan Larhammar påpekar också att den snabba implementeringen av open access (öppen tillgång) – som i grunden är bra – har skapat en marknad för oseriösa lycksökare. Så kallade artikelfabriker spottar ur sig falska artiklar och erbjuder möjlighet för forskare att köpa medförfattarskap. Det händer också att redaktörer till vetenskapliga tidskrifter mutas att ta in artiklar.
Förlag gör stora vinster
Han är även kritisk mot etablerade stora förlag som enligt honom gör stora vinster på forskning som utförts med hjälp av bidrag från staten eller stiftelser. I stället skulle han vilja se att akademin självt tog ett större ansvar för vetenskaplig publicering utan vinstintresse.
Forskningens framgångar bygger på den ständiga granskningen. När man strör grus i granskningsmaskineriet blir det svårare för forskningen.
Ett annat problem med den stora mängden falska studier är att det som kallas peer review, sakkunniggranskningen, riskerar att haverera.
– Forskningens framgångar bygger på den ständiga granskningen. När man strör grus i granskningsmaskineriet på det här sättet blir det förstås svårare för vetenskapen. Det kan bland annat resultera i uttröttning bland dem som ideligen ombeds att granska en allt större mängd artiklar för publicering. I stället kan granskningen komma att utföras av orutinerade forskare, eller inte alls. Det händer också att granskningen utförs av AI, berättar Dan Larhammar och påpekar att det i värsta fall då även kan röra sig om AI-genererat material. En rundgång där AI granskar AI alltså.
Från ord till handling
Problematiken uppmärksammas nu allt mer men det behövs internationellt samarbete för att få bukt med den.
– Medvetenheten om att detta förekommer i stora delar av världen och inom en mängd discipliner är stor, men nu är det viktigt att gå från ord till handling för att rätta till situationen.
Den workshop som hölls vid Vetenskapsakademien i juni i år samlade en grupp ansedda forskare från hela världen för att diskutera problemet förutsättningslöst. Den stöttades ekonomiskt av både Akademien och Knut & Alice Wallenbergs stiftelse i Stockholm, Sverige samt den icke-vinstdrivande stiftelsen Sciii gGmbH, Berlin, Tyskland.
Ständige sekreteraren Hans Ellegren skriver samtidigt om problematiken på sin blogg med rubriken Reformering av vetenskaplig publicering.