Forskare fälld för att ha använt AI på oredligt sätt
Nämnden för prövning av oredlighet i forskning, Npof, fäller en forskare som sökt medel från Formas. I ansökan till Formas fanns tydliga spår av AI-hallucination i referenslistan. Npof fäller forskaren för oredlighet och menar att hen har agerat grovt oaktsamt. På Formas ser vi nu över och tydliggör våra instruktioner för sökande för att minska risken att liknande situationer ska uppstå.
Tidigare i år upptäckte en sakkunnig granskare att en ansökan hade flera fabricerade referenser. Det fanns tydliga spår av AI-hallucination, det vill säga att en generativ AI hittat på referenserna. Eftersom fabricering inte är förenligt med god forskningssed avslog Formas ansökan på formell grund. Därefter anmälde Formas misstanke om oredlighet till ansvarigt universitet som efter en intern utredning anmälde misstanke vidare till Npof.
Npof har nu gjort bedömningen att referenser har fabricerats och menar att detta är en allvarlig avvikelse från god forskningssed.
— Eftersom generativ AI blir allt vanligare i arbetet med ansökningar är det extra viktigt att alla aktörer i forskningssystemet förstår möjligheterna men också är medvetna om riskerna. Vi behöver alla vara uppmärksamma och källkritiska. AI kan både hallucinera och plagiera, och svaren kan också förmedla fördomar eller vara partiska. Npof:s bedömning visar att det inte går att avsäga sig ansvar bara för att man inte visste eller förstod att AI kan fabricera innehåll, säger Linda Bell, chef för avdelningen för areella näringar.
För att minska risken för att liknande fall ska uppstå arbetar Formas med en rad olika insatser. Bland annat samarbetar forskningsfinansiärerna för lärande kring AI och tillsammans följer samtliga myndigheter den internationella utvecklingen inom området. Formas har också tagit fram ett antal specifika åtgärder kopplade till utlysningsverksamheten:
- Det är alltid den sökande som är ansvarig för att innehållet i ansökan är korrekt. I utlysningstexterna finns en tydlig beskrivning av vad sökande måste tänka på i de fall där AI används som stöd för att skriva en ansökan. Beskrivningen tydliggör risker, ansvar och konsekvenser.
- I ansökningsformuläret testar vi en textruta där den sökande får beskriva vilka AI‑verktyg den har använt för sin ansökan, var i ansökan de har använts och för vilket syfte. Om testet faller ut väl kommer textrutan att finnas med i alla Formas ansökningsformulär.
- För gemensamt lärande pågår dialog mellan Formas medarbetare och Grants office på olika lärosäten och forskningsinstitut om hur de arbetar med att stödja sina forskare i en ansvarsfull användning av AI.
Kontakt
