I slutet av januari släppte Demoskop/SvD/Aftonbladet en opinionsbomb: SD:s partiledare Jimmie Åkesson hade högre förtroende hos väljarna än S-ledaren Magdalena Andersson! Inga andra undersökningsföretag har varit ens i närheten av sådana resultat. Hos dem låg Åkesson trea, en bra bit efter Andersson och med Ulf Kristersson som rätt ohotad tvåa.
Så i tisdags kom nästa undersökningsbomb från Demoskop/SvD/Aftonbladet. Liberalerna rusade över riksdagsspärren och fick 4,5 procent av väljarstödet! Detta efter landsmötets beslut i helgen att tillåta SD i en framtida regering. Media kastade sig även över detta ”scoop”, ty siffran för L är verkligen sensationell. I fredags – den 20 mars – hade nämligen TV4/GP/Novus uppmätt blygsamma 2,3 procent för L, visserligen en svag uppgång jämfört med förra undersökningen, men verkligen inget stoppa-pressarna-läge. Och så i dag kom även DN/Ipsos som ger L avrundat 2 procent, alltså i samma härad som Novus i fredags. Ingen rusning, snarare stiltje.
Hur kan olika undersökningar med ungefär samma frågor ge så totalt olika resultat? Detta är ingen tillfällighet, utan det händer ständigt numera. Smällkaramellerna kommer nästan alltid från Aftonbladet/SvD/Demoskop. Förklaringen är mycket enkel: Demoskop, det undersökningsföretag som utför själva mätningen, använder en så kallad självrekryterad panel. Det innebär att de som läser artiklar online i mediekoncernen Schibsteds svenska tidningar Aftonbladet och Svenska Dagbladet uppmanas att gå in och anmäla sig till Demoskops panel. Det enda som krävs är en mejladress.
För en lekman kanske inte detta låter så konstigt, men för en statistiker är det tabu. Det finns nämligen några grundläggande problem med denna rekryteringsmetod. Ett sådant är att det ofta är de som är mest intresserade av en fråga som anmäler sig till panelen. Det innebär också en uppenbar risk för att folk som vill påverka andra – bilda opinion – kommer att vara extra intresserade av att delta. Undersökningsföretaget vet inte om det är en människa eller en AI-robot som besvarar frågorna.
Man vet inte heller om det är en enskild svensk väljare eller en utländsk trollfabrik bakom kontot. En person eller aktör kan registrera hur många mejladresser man vill. Självrekryterade paneler är därmed vidöppna för påverkansoperationer, vilket är ett stort och ofta uppmärksammat problem internationellt. Undersökningsföretagen använder AI för att bekämpa AI-trollen, men forskare visar gång på gång hur man kan lära AI att uppträda som en människa och därmed få in AI-svar i en mätning.
De undersökningar som Novus, Ipsos, SCB, SOM-institutet med flera gör, bygger däremot på att de som svarar utgör ett slumpmässigt urval av svenska folket. Då får man ett slumpmässigt urval av åsikter kring det man frågar om och kan utifrån det dra slutsatser om vad hela populationen tycker. Denna vedertagna metod har en på förhand känd osäkerhet och man kan lita på att resultatet stämmer överens med verkligheten, inom en angiven felmarginal.
De som använder självrekryterande paneler brukar anföra att de viktar sina undersökningar för att komma runt problemet med att deras urval inte är slumpmässigt. Viktning är en statistisk term som korrigerar för eventuella fel som uppstår vid bristande slumpmässighet. Om man råkar intervjua 55 procent män, men populationen har 50 procent män, så ”viktas” männens röster ned så de motsvarar 50 procent av resultatet. Men viktning fungerar bara om urvalet är slumpmässigt.
Företag som använder självrekryterade paneler, som Demoskop och Yougov, får per design skeva åsikter från sina paneler eftersom dessa inte utgör ett slumpmässigt tvärsnitt av befolkningen. För att kunna vikta sådana paneler måste man först avgöra vilka åsikter som man tror att svenska folket som helhet har, för att därefter vikta dessa åsikter på det man skall undersöka. Processen är alltså helt bakvänd och panelsvaren kommer att hamna nära det som undersökaren tror – eller kanske önskar? – att det ska bli. Ja, detta är precis så oroväckande som det låter.
Men kan man verkligen lita på Ipsos och Novus undersökningar som är baserade på slumpmässiga urval? Är inte exempelvis bortfallet ett problem för dessa? Folk svarar ju inte i telefon längre som man gjorde förr! Nej, men undersökningarna behöver inte genomföras per telefon. Det finns många bra metoder man kan använda efter att man dragit ett slumpmässigt urval; postala enkäter, SMS, Kivra och paneler som är rekryterade med hjälp av slumpen.
Dessutom är det inte sant att bortfallet är det problem som kritikerna hävdar, eftersom även respondenter som faller bort ersätts slumpmässigt. Forskningen är entydig: självrekrytering diskvalificerar tillförlitligheten. Bortfall gör det inte.
En invändning mot ovanstående, som hörs ibland, är att Demoskop kom någon decimal närmare övriga företag i det slutliga utfallet i riksdagsvalet i september 2022. Det man dock missar är att samma skevheter i Demoskops undersökningar som vi ser nu, förekom ända fram till månaden före valet, alltså augusti 2022. Sedan försvann de. Samma sak har hänt i varje riksdagsval med de flesta självrekryterade undersökningsföretagen.
Denna märkliga ”uppryckning” precis före valet råkar sammanfalla med att det finns bra, slumpmässigt baserade undersökningar att jämföra med. I EU-valet 2024 var Demoskop däremot ett av de sämsta mätföretagen. Då fanns också bara få andra undersökningar att jämföra med. Även denna intressanta trend är konstant när man jämför självrekryterade undersökningar med slumpmässiga i Sverige och övriga världen. Finns det ett tillförlitligt ”facit” så ”råkar” även de självrekryterade komma nära. Saknas ett facit kan det bli väldigt fel.
Skälet till att ovetenskapliga undersökningar ändå är så populära är att de nästan är gratis att genomföra, medan slumpmässighet däremot är dyr. I Demoskops fall rekryterar Aftonbladet och SvD till panelen så anskaffningskostnaden blir nära noll. Därefter säljer Demoskop kommersiella undersökningar såsom varumärkes- och marknadsundersökningar et cetera till företag och organisationer och där ligger en annan fara. För sådana mätningar finns nämligen inga andra väljarbarometrar att jämföra mot. Undersökningarna används sedan som grund för strategiska beslut och risken finns att kunderna investerar miljoner baserat på relativt lösa grunder.
Detta är gagnar knappast de aktieägare, föreningsmedlemmar eller skattebetalare som står för notan. Fast det är så klart inte olagligt att sälja, köpa eller publicera undersökningar som är baserade på en ovetenskaplig metod…
Torbjörn Sjöström är vd för Novus och Sverigerepresentant för WAPOR, World Association of Public Opinion Research.