Sandsynlighedsregning Analyse af kontingenstabeller

Præsentationer af emnet: "Sandsynlighedsregning Analyse af kontingenstabeller"— Præsentationens transcript:

1 Sandsynlighedsregning Analyse af kontingenstabeller
Statistik II 1. Lektion Sandsynlighedsregning Analyse af kontingenstabeller

2 Kursusbeskrivelse Omfang Emner Software: Masser af SPSS Eksamen
5 kursusgange (forelæsning + opgaveregning) 5 kursusgange (mini-projekt) Emner Analyse af kontingenstabeller Logistisk regression Generelle lineære modeller Software: Masser af SPSS Eksamen Mundtlig, individuel, med udgangspunkt i mini-projekt Dato: Det skal vi have aftalt – mind mig lige om det!!

3 Sandsynlighedsregning
Defintion: Hændelse, resultat af et ”eksperiment” Fx hændelsen at det regner i morgen Defintion: Sandsynlighed, andelen af gange hændelsen indtræffer når vi udfører eksperimentet maaaaange gange. Fx. Kast med en mønt. Sandsynligheden for plat er 50%, da andelen af plat er 50% i det lange løb. Notation: Lad A være en hændelse. P(A) betegner sandsynligheden for hændelsen A.

4 Regneregler for sandsynligheder
Lad A være en hændelse P(ikke A) = 1- P(A) Hvis A og B er hændelser, der ikke kan indtræffe samtidigt: P(A eller B) = P(A) + P(B) Fx. sandsyligheden for at yngste persons navn begynder med A eller B To hændelser er (statistisk) uafhængige hvis og kun hvis P(A og B) = P(A)P(B) Fx sandsynligheden for to 6’ere i et terningkast…

5 Sandsynlighedsfordeling: Diskret variabel
Defintion: Diskret variabel En variabel er diskret, hvis den kan tage højst tælleligt mange værdier. Fx. Antal børn i en familie. Antal terning kast inden 6’er. Defintion: Sandsynlighedesfunktion Sandsynligheds fordelingen for en diskret variabel er beskrevet ved en sandsynligheds funktion P(y), så 0 ≤ P(y) ≤ 1 og Salle y P(y) = 1 hvor y er et enkelt udfald af vores eksperiment.

6 Eksempel Spørgsmål: Hvad mener du er det ideelle antal børn?
y P(y) 0.01 1 0.03 2 0.60 3 0.23 4 0.12 5 Total 1.00 Spørgsmål: Hvad mener du er det ideelle antal børn? y er antal børn angivet af en tilfældigt udvalgt amerikaner. P(2) er altså sandsynligheden for at en tilfældig udvalg person svarer at det ideelle antal børn er 2

7 Sandsynlighedsfordeling: Kont. variabel
Defintion: Kontinuert variabel En variabel er kontinuert, hvis den kan tage alle værdier i et interval. Fx. Højden eller indkomst for en BEM studerende. Defintion: Tæthedshedesfunktion Sandsynligheds fordelingen for en kontinuert variabel er beskrevet ved en tæthedsfunktion f(y), så 0 ≤ f(y) og hvor y er et enkelt udfald af vores eksperiment.

8 Eksempel Ventetid på at komme igennem til help-line:
Lad T være den (tilfældige) ventetid. Sandsynligheden for at vente mere en 15 minutter: 6%

9 Normalfordelingen Normal fordelingen har tæthedsfunktionen hvor
m er middelværdien og s er standardafvigelsen 95% 2.5% 2.5% m m-1.96s m+1.96s

10 Stikprøvefordeling: Motivation
Påstand: Andelen af vælgere der ville stemme på Schwarzenegger er 50%. Stikprøve: Vi spørger 508 tilfældigt udvalgte stemmeberettigede. 284 siger svarer ja. Spørgsmål 1: Hvis påstanden er korrekt, hvor mange Schwarzenegger stemmer ville vi have forventet? Spørgsmål 2: Hvad er umiddelbart det bedste bud på, hvad den sande andel af Schwarzenegger stemmer er? Spørgsmål 3: Er denne afvigelse, så stor at vi kan afvise vores påstand?

11 Simuleret svar på spørgsmål 3…
Spørgsmål: Hvis påstand om 50% opbakning er korrekt, hvor ekstrem er vores rundspørge? Ide: Få en computer til at simulere 1000 ”kunstige” rundspørger, hvor påstanden er korrekt. Konkret: Computeren kaster en mønt 508 gange og udregner andelen af plat. Gentages 1000 gange. Resultat: Andel ”ekstreme simulationer”: 18,6%

12 Formaliseret svar Setup: Sande andel betegnes p Hypoteser:
Arbejds-hypotese (H0): p = 0.5 Alternativ-hypotese (H1): p  0.5 Observerede andel: Sandsynlighed for ekstrem andel: 18,3% (p-værdi) Normal-approksimation til stikprøvefordelingen

13 Konfidensinterval Defintion: Konfidensinterval
Et 95% konfidensinterval indeholder den sande parameterværdi med 95% sikkerhed. Eksempel: Antag p er den estimerede andel baseret på n svar. Da er et 95% konfidensinterval givet ved I Schwarzenegger eksempel Dvs. vi 95% sikre på at den sande andel af ja’er blandt vælgerne er mellem 0.54 og 0.58.

14 Variabeltyper Spørgeskemaundersøgelse (Survey) Diskrete svartyperne er
Kategoriske – der er et antal svarmuligheder Ordinale kategorisk, dvs. ordnede kategorier Fx. Indkomstgruppe: Lav, Mellem eller Høj Nominale kategoriske, dvs. kategorier uden ordning. Fx. Favorit M&M: Rød, Grøn eller Blå.

15 Dikotome variable Dikotom variabel: Kategorisk variabel med kun to kategorier. Fx Ja/Nej, Mand/Kvinde, Sort/Hvid. Hvis de to kategori er hhv 0 og 1kaldes variablen binær. I SPSS omkoder dikotome variable til binære – hold øje med hvad omkodes til hvad.

16 Generel kontingenstabel
I en kontingenstabel indeholder hver celle det antal observationer, der falder inden for den givne kombination af kategorier. Spørgsmål: Er der sammenhæng mellem farvevalg og køn? Farve på foretrukne M&M Rød Grøn Blå Køn Mand % % % 60 100.0% Kvinde % 7 10.9% % 64 Total % % % 124 Celle: Antal personer, der er kvinde og som foretrækker rød

17 Spørgsmålet på hovedet
Spørgsmål: Er der sammenhæng mellem farvevalg og køn? Vi vender spørgsmålet på hovedet: Spørgsmål: Kan vi afvise at der ingen sammenhæng er mellem køn og farvevalg? Antag at der ingen sammenhæng er mellem køn og farvevalg. Hvilket antal observationer ville vi så forvente i hver celle i vores kontingenstabel? Vi antager at de marginale antal ligger fast, dvs. det totale antal mænd, kvinder, røde, grønne og blå.

18 Farve på foretrukne M&M
Forventede antal Hvis der ingen sammenhæng er mellem køn og farvevalg, så bør procentfordelingen være den samme blandt mænd og kvinder. Andel røde: 55/124 = 44.4% Forventede røde blandt mænd: 44.4% af 64 = 64*55/124 = 28.4 Farve på foretrukne M&M Rød Grøn Blå Køn Mand 60 100.0% Kvinde 64 Total % % % 124

19 Generel formel for det forventede
I hver celle har vi Xij : observerede antal i celle (i,j) Eij : forventede antal i celle (i,j) Desuden har vi N: Totale antal observationer Ci : Antal observationer i ’te kolonne Rj: Antal observationer er j’te række Forventede antal for celle ( i,j ) er Eij = Ci Rj / N

20 Ombytning uden betydning
Vi kan bytte rundt på farve og køn uden at det gør en forskel: Andelen af mænd: 60/124 = 48.4% Forventede antal mænd blandt røde: 48.4% af 55 = 55*60/124 = 28.4

21 Så langt så godt Vi har… Vi har arbejdshypotesen at der ikke er sammenhæng mellem køn og farvevalg Vi har fundet de forventede antal, hvis arbejdshypotesen er sand. Vi mangler… Vi mangler et mål for hvor meget de forventede antal afviger fra de forventede. Vi mangler en måde at afgøre, hvornår afvigelsen er så stor, at vi ikke længere kan acceptere arbejdshypotesen.

22 Mål for afvigelsen Vi bruger følgende mål
Vi kalder c2 (”ki-i-anden”) en teststørrelse. c2 bruges til at teste arbejdshypotesen. Bemærk: c2 ≥ 0 c2 = 0 perfekt match Jo større c2 , jo mindre tror vi på arbejdshypotesen

23 c2 teststørrelse for eksemplet
I en kontingenstabel indeholder hver celle det antal observationer, der falder inden for den givne kombination af kategorier. Spørgsmål: 4.9 er ikke nul! Men er det så langt fra nul, at vi ikke kan acceptere arbejdshypotesen om ingen sammenhæng? Farve på foretrukne M&M Rød Grøn Blå Køn Mand 13 9.7 60 Kvinde 7 10.3 64 Total 55 20 49 124

24 Lidt mere teoretisk tilgang
Vi har en teoretisk fordeling: En såkaldt c2-fordeling med 2 frihedsgrader. Det røde areal svarer til sandsynligheden for at observere en mere ekstrem c2-værdi. Her er arealet 8.49%. Denne værdi kaldes også p-værdien. I en general tabel med r rækker og c kolonner, vil histogrammet svare til en c2-fordeling med (r-1)(c-1).

25 Beslutningen! Jo mere ekstrem c2 -værdi, jo mindre tror vi på arbejdshypotesen. Jo mere ekstrem c2 -værdi, jo mindre p-værdi. Hvis p-værdien er mindre end 5% så afviser vi arbejdshypotesen. Vi siger at testen (af arbejdshypotesen) er signifikant. Grænsen på de 5% kaldes signifikans-niveauet, og betegnes a. Signifikans-niveauet kan vælges frit, mer er typisk 10%, 5% eller 1%. Signifikans-niveauet vælges før teststørrelsen udregnes! I eksemplet kan vi ikke afvise arbejdshypotesen. Vi kan altså ikke afvise af der ingen sammenhæng er mellem køn og farvevalg.

26 Signifikanstest generelt
Opstil statistisk model / statistiske antagelser Fx. at stikprøven er tilfældigt udvalgt. Opstil arbejds-hypotese Betegnes H0 , nul-hypotesen Fx. uafhængighed mellem køn og farvevalg Opstil alternativ-hypotese Den ”modsatte” hypotese af H0 Betegnes H1 Bemærk: Arbejdshypotesen er ikke nødvendigvis den hypotese vi tror på eller gerne vil ”bevise”. Arbejdshypotesen er generelt valgt, så den er mere ”præcis” end alternativ-hypotesen. Uafhængighed (ingen sammenhæng) er præcist, mens alternativet, afhængighed, kan være mange ting.

27 Signifikanstest generelt forts.
Vælg signifikans niveau a Typisk 5%. Konstruer en test-størrelse Hvilke værdier er ekstreme for H0? Beregn teststørrelsen Beregning af test-størrelse ordnes af SPSS Beregn p-værdien p-værdien er sandsynligheden for at observere en mere ekstrem test-størrelse ”næste gang”, under antagelse af at H0 er sand, og at modellen og dens antagelser er korrekte. Hvis p-værdien < a, så kan vi ikke afvise H0. Hvis p-værdien > a, så afviser vi H0 og accepterer H1 hypotesen. Fortolk resultatet.

28 Man begår fejl Når vi udfører en signifikanstest kan vi begå en af to fejl Type 1 fejl: Vi afviser H0 selvom den er sand Type 2 fejl: Vi accepterer H0 selvom den er falsk Antag modellen er korrekt, H0 er sand og at vi har valg et signifikans-niveau a. Hvad er da sandsynligheden for at begå en Type 1 fejl?

29 Lidt gode råd p-værdien er ikke sandsynligheden for at H0 er sand.
p-værdien er ikke er udtryk for styrken af sammenhængen mellem to variable. p-værdien kan fortolkes som et udtryk for hvor meget vi tror på H0 hypotesen. HVER GANG i ser en p-værdi i SPSS (”sig.”), så gør jer hver gang klart, hvilken H0 hypotese den passer sammen med!!! Det er nemt nu, men det bliver mere indviklet senere…

30 Eksempel i SPSS Analyze → Descriptive Statistics → Crosstabs

31 SPSS output Opstiller hypoteser:
H0 : Uafhængighed mellem arbejdsløs og vold/trusler H0 : Afhængighed Sig. niv. a = 5% c2-teststørrelse p-værdi Da p-værdien < 0.05 afviser vi at arbejdsløshed og vold/trusler er uafhængige.

32 Mere SPSS output

33 Mere end to variable Indtil nu: Afgøre om der er en (statistisk signifikant) sammenhæng mellem to kategoriske variable. Det næste: Kan andre katogoriske kontrolvariable hjælpe med at forstå sammenhængen? Ideen er at inddele det indsamlede data efter hvert svar i kontrolvariablen. Og derefter gentage tabelanalysen for hver delmængde af data. Vi siger vi stratificerer efter kontrolvariablen. Lad os se på nogle eksempler…

34 Sammenhæng mellem race og dom
Dødsdom Anden dom Total Morder Sort 59 2.4% % % Hvid 72 3.2% % % % % % Test: H0: Ingen sammenhæng ml. race og dom. Teststørrelse: c2 = 3.1, df = 1, p = ( > 0.05 ), g = Konklusion: Vi kan ikke afvise H0. Dvs., vi kan ikke afvise, at der er uafhængighed mellem morders race og afsagt dom. (Simpelt: Ingen sammenhæng)

35 Kontrolvariabel: Offers race
Dom Offer Dødsdom Anden dom Total Sort Morder 11 0.5% % % Hvid % % % % % % 72 3.4% % % % % % Χ2 = df = 1 p = 0.59 g = 1.00 Χ2 = df = 1 p = 0.000 g = 0.71

36 Opsummering Sammenhængen mellem race og dom var skjult
Ikke-stratificeret analyse: Ikke-signifikant sammenhæng Stratificeret analyse: Signifikant sammenhæng Sammenhængen er muligvis lokal Kun signifikant sammenhæng når offer er hvid Simpsons paradoks – sammenhængen er ”vendt” Ikke-stratificeret analyse: Hvide straffes hårdest! Stratificeret analyse: Sorte straffes hårdest – uanset offers race.

37 Stratificering i SPSS Stratificering efter offers race.

38

39 Elaborering: Arbejde og boligforhold
God Dårlig Total Tilknytning til arbjeds-markedet Fuldtid % % % Deltid % % % Pensioneret % % % Ingen % % % % % % Test: H0: Ingen sammenhæng mellem arbejde og boligforhold. Teststørrelse: Χ2 = 12.9, df = 3, p = 0.005 Konklusion: Signifikant sammenhæng

40 Bemærkninger Tabellen viser sammenhængen mellem arbejde og boligforhold blandt 70-årige i 1967 og 1984. Hvad mon forklarer denne sammenhæng? Lad os stratificere efter år, dvs. separate tabeller for 1967 og 1984.

41 Elaborering: Job-status og boligstandard
God Dårlig Total 1967 Tilknytning til arbjeds-markedet Fuldtid % % % Deltid % % % Pensioneret % % % Ingen % % % % % % Test: H0: Ingen sammenhæng ml. job-status og boligstandard. Teststørrelse: Χ2 = 0.0, df = 3, p = 0.998 Konklusion: Vi kan ikke afvise H0: Ingen signif. sammenhæng.

42 Elaborering: Job-status og boligstandard
God Dårlig Total 1984 Tilknytning til arbjeds-markedet Fuldtid % 2 10.0% % Deltid % 2 4.2% % Pensioneret % % % Ingen % 6 6.6% % % 57 7.8% % Test: H0: Ingen sammenhæng ml. job-status og boligstandard. Teststørrelse: Χ2 = 1.3, df = 3, p = 0.725 Konklusion: Vi kan ikke afvise H0: Ingen signif. sammenhæng.

43 Konklusioner Sammenhængen mellem arbejde og boligforhold forsvinder når vi stratificerer efter kohordeår. Vi siger at kohordeåret forklarer sammenhængen mellem arbejde og boligforhold. Statistiker: Betinget uafhængighed.