AI-regler kan återspegla forskarnas inbördes konkurrens
Regler för AI i forskning motiveras ofta med kvalitet och forskningsetik. En ny artikel visar teoretiskt hur restriktioner också kan växa fram ur forskarnas konkurrens om publikationer, anslag och erkännande.
Akademiska tidskrifter, forskningsfinansiärer, institutioner och professionella sammanslutningar inför i ökande grad regler för hur AI-verktyg får användas i forskning. Sådana regler kan vara rimliga om AI hotar forskningens tillförlitlighet. Men denna artikel undersöker en annan möjlighet: att reglerna även formas av intressekonflikter inom forskarsamhället.
AI förändrar inte bara produktivitet utan också rangordning
Utgångspunkten är att forskare har olika stor nytta av AI. Vissa kan använda verktygen effektivt i exempelvis kodning, databearbetning, litteraturgenomgångar eller textutkast. Andra arbetar med uppgifter där AI passar sämre, eller saknar de färdigheter och arbetsflöden som gör verktygen särskilt produktiva.
Därutöver bygger akademiska karriärer till stor del på relativ framgång. Publikationer i selektiva tidskrifter, forskningsanslag, befordringar, priser och professionellt erkännande är knappa resurser. Om AI förbättrar vissa forskares relativa prestationer, förändras också konkurrensen om dessa resurser.
En modell för AI-regelkonflikter inom akademin
Artikeln utvecklar en formell intressegruppsmodell. I modellen finns forskare som vinner mycket på AI och forskare som vinner mindre. Båda grupperna kan lägga resurser på att påverka de organ som sätter reglerna. Det handlar alltså inte om att tidskrifter eller finansiärer i sig antas driva en viss agenda, utan om att de fungerar som arenor där organiserade intressen kan få genomslag.
Modellen visar att forskare som har mindre nytta av AI kan ha skäl att vilja införa och stödja restriktioner även om AI totalt sett skulle öka kunskapsproduktionen. Skälet är att restriktioner kan minska den relativa fördelen för de forskare som annars skulle gynnas mest.
När restriktioner är mer sannolika
Analysen pekar på flera omständigheter som gör strängare AI-regler mer sannolika. Restriktioner väntas vara vanligare där akademiska belöningar starkt beror på relativ rang, där grupper som förespråkar begränsningar är väl representerade i regelgivande organ och där forskare har svårt att välja bort restriktiva tidskrifter, finansiärer eller institutioner.
Regler kan också bli strängare när användning av AI förknippas med ryktesrisker, sanktionsrisker eller omfattande dokumentationskrav. Det behöver inte betyda att riskerna objektivt sett har ökat. Även upplevda risker kan påverka vilka regler forskare vill se.
Inte ett argument för fri AI-användning i alla lägen
Artikeln hävdar inte att AI alltid bör tillåtas. Om AI försämrar forskningens kvalitet, ökar fel eller gör forskningsresultat mindre tillförlitliga kan restriktioner vara samhällsekonomiskt motiverade. Poängen är att restriktioner också kan uppstå av andra skäl än omsorg om forskningens kvalitet.
Det skapar en möjlig klyfta mellan det som är privat fördelaktigt för vissa forskargrupper och det som är bäst för kunskapsproduktionen som helhet. Dessutom kan själva kampen om reglerna förbruka resurser, eftersom olika grupper lägger tid och kraft på att påverka besluten.
Policyrelevans för akademisk styrning
En viktig slutsats är att debatter om AI i forskningen bör förstås både som diskussioner om vetenskaplig kvalitet och som konflikter om rang, inflytande och karriärmöjligheter. Därför räcker det inte att bara fråga om en AI-regel låter rimlig i forskningsetiska termer. Man bör också undersöka vilka grupper som gynnas, vilka som missgynnas och om reglerna främst träffar de användningsområden där de verkliga kvalitetsriskerna är störst.
