Hvordan skal man forstå estimaterne i vores metastudie?

I dag havde jeg den udsøgte fornøjelse at være gæstevært på ”Ta’r jeg fejl” på Radio IIII (lyt til time 1 og time 2).

Den sidste gæst var Jes Søgaard, som kom med en påstand om resultaterne i vores metastudie, der er anledningen til dette blogindlæg. Jes Søgaard mente nemlig, at de 35,3%, som Fuller et al., jf. nedenstående tabel, estimerer er effekten af en gennemsnitlig nedlukning, repræsenterer en meget betydelig effekt på antallet af døde.

Som Jes siger godt 39 minutter inde i time 2, så mener han, at ”de der 35% skal jo ses i forhold til en situation hvor epidemien får lov til at køre helt igennem,” altså en situation, hvor op imod 35.000 danskere var døde af COVID-19. Jes mener således, at Fuller et al. viser, at nedlukningerne har forhindret ca. 12.000 COVID-19-dødsfald.

Men det er ikke sådan, man fortolker estimaterne i en difference-in-difference analyse (og dermed vores metastudie). Estimaterne viser effekten af en nedlukning sammenlignet med en kontrafaktisk situation, hvor man ikke indfører en nedlukning – altså en form for kontrolgruppe (det er rent teknisk lidt mere komplekst, men denne forklaring er tilstrækkelig til dette indlægs formål).

Hvad betyder denne dette så? Jo, i Danmark døde der i alt 2.534 personer af COVID-19 før vaccinerne var distribueret til alle sårbare omkring sommeren 2021. Da Danmark havde indført nedlukninger, betyder estimatet fra Fuller et al., at Danmark havde 35,3% færre døde, end hvis vi ikke havde indført nedlukninger.

Havde vi ikke indført nedlukninger, ville Fuller et al. altså forvente, at 2.534/(1-35,3%) = 3.917 personer var døde af COVID-19 i Danmark. Overført til danske forhold betyder Fuller et al.’s resultater altså, at nedlukningerne forhindrede 1.383 COVID-19-dødsfald.

Det er selvfølgelig en del. Men det er milevidt fra de ca. 12.000 dødsfald, som angiveligt er Jes Søgaards opfattelse af effekten. Og så skal vi naturligvis huske på, at Fuller et al. er en outlier. Den samlede evidens viser, nærmest uanset hvordan man cherry picker og sorterer i studierne, at effekten er markant lavere. Vi har en række forskellige gennemsnit, og det gennemsnit, der viser den højeste effekt, er et simpelt (aritmetisk) gennemsnit. Her svarer de 8,9% til 248 forhindrede COVID-19-dødsfald.

Det er i øvrigt samme historie for de ”syntetisk kontrol”-studier, som Jes Søgaard mener, vi burde have med i vores metastudie, selvom de ikke er egnet til at estimere effekten af nedlukninger under pandemien, og generelt cherry picker lande, der oplevede stor overdødelighed under pandemiens første bølge. Disse studier finder oftest en effekt, der svarer til 1.250-2.500 forhindrede dødsfald i Danmark. Men som jeg viser i min artikel, der snart kommer i Nationaløkonomisk Tidsskrift, er disse estimater ikke troværdige pga. metodiske problemer.

PS: Figur 2 i vores metastudie (vist herunder) illustrerer betydningen af, at estimaterne skal ses i forhold til det antal døde, der rent faktisk var. Figuren viser hvor mange dødsfald nedlukningerne har forhindret i USA med udgangspunkt i de studier, vi har med i Tabel 1. Figuren viser også estimaterne fra Imperial College London til sammenligning.

Figuren viser, at effekten skal være meget, meget høj (over 80%), før vi nærmer os noget, der minder om de forudsigelser, der blev lavet i bl.a. begyndelsen af pandemien.

One thought on “Hvordan skal man forstå estimaterne i vores metastudie?

  1. Pingback: Den lukkende nedlukning – dagbog fra biostatens andet år | Forlaget Kolbein

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.