onsdag 22 januari 2020

Bristande vetenskaplighet i rapporten om BRÅ

Jag har i ett tidigare inlägg redovisat min icke-medverkan i rapporten "Går det att lita på BRÅ?". Min kollega i BRÅs vetenskapliga råd, Dan Hedlin, har på Twitter påtalat en rad brister i nämnda rapport. Han har nu sammanfattat sina synpunkter i en sammanhängande text som kan läsas här.  

______________________________________________________________________

Jag blev uppringd av Ossian Grahn som undrade om jag ville ställa upp på en intervju om mitt deltagande i Brås vetenskapliga råd. Jag har varit med i det sedan 2013. 

Jag jobbade på enheten för rättsstatistik hos Brå under sex månader under 2012, dessförinnan SCB. 

I den här bloggposten ska jag ta upp bristande vetenskaplighet i rapporten ”Går det lita på Brå? En studie om bias i myndighetsforskning” av Holgersson, Grahn och Wieslander (nedan kallad ”rapporten”).

Informanten R2 (jag) finns med bara på ett ställe, och det är med en felcitering. Holgersson har sagt att det är exakt återgivet, och då syftar han bara på den del som finns inom citattecken. Emellertid är det försåtligt. Det förklarar jag i en replik i SvD.

Doktorn i kriminologi Helena du Rées har gått igenom studiens empiriska underlag och finner det ”skakigt”, vilket jag håller med om. Vidare skriver hon att ”det är omöjligt att avgöra om de intervjuade informanternas synpunkter på Brås verksamhet är representativa för de grupper de representerar, inte minst beroende på att det inte går att utröna huruvida de olika utsagorna gäller 2019 eller 1989 eller vilken tidsperiod däremellan.” 

Hade rapporten styrkt att de förhållanden rapporten försöker belysa är oberoende över tid, skulle det inte vara något större problem. Stödet för tidsoberoende är framför allt allmänna resultat hämtade från studier på industrifinansierad forskning, bl.a. av tobaksindustrin. De missförhållanden som rapporten antyder skulle vara gällande borde bero på vem som är GD, justitieminister, och vilka som är ledande personer på Polisen, och naturligtvis utredare på Brå, och därför variera över tid. Det diskuteras inte.

En förbluffande uppgift i rapporten är hur få potentiella informanter författarna lyckades få kontakt med, och hur många som avböjde. Bara åtta av 15 personer i Insynsrådet och Vetenskapliga rådet fick de kontakt med (sid. 17). De 15 är enhetschefer, professorer etc, vars telefonnummer, postadresser etc finns på hemsidor. Det är oklart hur många av de nuvarande anställda som författarna försökt få kontakt med. De fick kontakt med bara 18 av dem. På DN debatt skriver 28 utredare vid Brå att många av de 28 aldrig blivit tillfrågade. De är inte svåra att hitta; deras namn finns t.ex. som författare till Brås rapporter. De här svårigheterna försöker rapporten vända till att det råder tystnadskultur på Brå (s. 5, 17, överst s. 18, s. 27-28, 55-56).

I forskning skall man alltid diskutera alternativa förklaringar. Under ”Tystnadskultur vid Brå” (s. 27) nämns inte den uppenbara alternativa förklaringen, nämligen att forskningsfrågan presenterades kortfattat och därför skulle tillfrågade kunna vara tveksamma p.g.a. otillräcklig information. På sid. 20: ”För att intervjupersonerna skulle påverkas så lite som möjligt ville vi hålla information om studien så kort som möjligt. I vissa fall efterfrågades en skriftlig beskrivning. Vi skrev då ett e-brev som innehöll samma information som lämnats vid den muntliga beskrivningen.” På DN debatt skriver utredarna att flera av de som tillfrågades avböjde medverkan därför att syftet framstod som otydligt och studien inte hade etikprövats. Professor Sven-Åke Lindgren avböjde också medverkan av liknande skäl

Den alternativa förklaringen till att det ”bland före detta anställda var det åtskilligt fler som berättar om händelser som tyder på att studierna vid Brå påverkas utifrån jämfört med de som befann sig i en beroendeställning till Brå. Det gäller även för de som nyligen slutat vid Brå.” (s. 28) är urvalsselektion. Nämns inte heller. 

Att driva hem att det råder tystnadskultur vid Brå är väsentligt i rapporten. Om det rådde sådana missförhållanden som rapporten antyder, då borde sådant komma ut i ett land med grundlagsskyddad meddelarfrihet och förbud för arbetsgivaren att efterforska vem som lämnat uppgifterna till media.


På sid. 26 i rapporten finns det en referens till en debattartikel i Kvartal samt en replik av samme författare, Christian Berggren. "Berggren förespråkar en uppgörelse med den Stockholmsbaserade kriminalpolitiska ideologi som fått ett stort genomslag i Sverige och - som länge skymt sikten, både för vad som hänt i Sverige och vad som kan och bör göras”. Det nämns inte att det finns svar på debattartikeln och repliken. I Kvartal.

Vad säger de nuvarande anställda i rapporten? Tolv nuvarande anställda intervjuades. E2, E4, E5 och E7 refereras ingenstans i rapporten. På sid 47 står det: Majoriteten [av de 12] avvisar förekomsten av bias i processen att ta fram kunskap, samtidigt som de hänvisar till det naturliga i att Brå tilldelas utredningsuppdrag eftersom det rör sig om en myndighet. Flera av de nuvarande anställda... att det finns en spänning mellan rollen att vara myndighet och att vara forskningsinstitut (s. 22) och de som anställda/utredare vid Brå är mer styrda jämfört med att bedriva forskning på ett universitet (s 37). E3 pekar på risk för framtida styrning, t.ex. om Sverige skulle få en auktoritär regering (s. 48).

På sid. 22: Bl.a. uppgavs att de ekonomiska styrmedlen fick ett starkt genomslag på vilka studier som bedrevs. Därigenom påverkades Brås arbete gällande vilken fråga som för tillfället var politiskt intressant (E9), snarare än vad som var mest angeläget att studera ur andra aspekter. E9 säger att formuleringen av direktiv inte alltid präglades av envägskommunikation i den form att departementet dikterar villkor som Brå ska följa (s. 23). E11 och empiri indikerar att risken för bias är hög vid presentation av vissa resultat som är politiskt känsliga eller som starkt går emot agendan hos en beställare av en studie (s. 44). ("indikerar" är ordvalet i rapporten). E11 beskriver flera situationer där Polisen agerat problematiskt [mitt ordval] men att det inte lett till styrning av Brå (29,35). E11 pekar på att det finns en kvalitetsgranskningsprocess och att en viktig faktor att ta hänsyn till är att Brå inte har någon kontroll över hur andra väljer att presentera det som framgår i rapporter (37). E12 har avsevärt mer negativa saker att säga om Brå (refereras till på sidorna 21, 22, 25, 26, 27, 28, 30, 37, 44,49, 50, 55). 

”Majoriteten [av de 12] avvisar förekomsten av bias i processen att ta fram kunskap” (s. 47) har inte kommit med i avsnittet Slutsatser (s. 55-56). Inte heller att Polisens agerande inte lett till styrning av Brå. Däremot får E12 mycket utrymme i rapporten och finns även med i citat i Slutsatser. 

På sid. 56 står det att "vissa nyckelpersoners ideologiska uppfattningar kan medföra bias, där kriminologiska institutionen vid Stockholms universitet har och har haft en stor inverkan på förhållningssätt och syn på forskning vid [Brå]". Jag förstår det som: "vissa nyckelpersoner" (vilka?) på den institutionen har en ideologi som förs och har förts över till Brå, där den kan orsaka bias. I så fall är det ett mycket uppseendeväckande påstående, särskilt i en rapport med många "ger intryck att", "verkar", "indikerar". Jag ser ingen evidens i rapporten för detta påstående. 

Märkligt är också att det inte står i rapporten att den har granskats av utomstående. Författarna hävdar nämligen att den har granskats av ”mycket meriterade forskare”, men vill inte tala om vilka. Det gör att vi inte ens vet vilka områden dessa forskare är verksamma inom. Det är visserligen vanligt med anonyma bedömare (referees) i forskarvärlden men det finns alltid en namngiven redaktör som tar del av refereerapporterna, gör en egen bedömning tar ansvar för beslutet att publicera, refusera eller skicka tillbaka till forskarna med en lista på kommentarer och uppmaning att revidera artikeln. Hade jag varit en av de som granskat rapporten av Holgersson et al, hade jag självklart gått ut med det. Med tanke på hur rapporten är skriven, undrar jag vad de meriterade forskarna sa om den. 

Dan Hedlin, professor i statistik vid Stockholms universitet

Inga kommentarer:

Skicka en kommentar