Sandsynlighedsregning Analyse af kontingenstabeller

Slides:



Advertisements
Lignende præsentationer
Atomer Et programmeret forløb. En måde at lære på.
Advertisements

Repetition Goodness of Fit Uafhængighed i Kontingenstabeller
Introduktion Grundlæggende statistiske begreber Deskriptiv statistik
Hypotese test – kapitel 6 (Signifikans test)
Repræsentativitet Opsamling fra sidst Repræsentativitet (χ2-test)
Anvendt Statistik Lektion 3
Analyse af kontingenstabeller
v/ Professor Lars Ehlers, Aalborg Universitet
Repræsentativitet Sandsynligheden for at få krone ved kast med en mønt
Statistik Lektion 6 Konfidensinterval for varians Hypoteseteori
Statistik Lektion 18 Multipel Linear Regression
Anvendt Statistik Lektion 4
Program Informationer χ2-test (chi-i-anden) Projekt 3
Bolig selskabernes Landsforening– Almene lejeboliger - Maj/Juni Almene lejeboliger - Danmarkspanelet - Maj/Juni 2010.
Introduktion Grundlæggende statistiske begreber Deskriptiv statistik
Anvendt Statistik Lektion 6
Anvendt Statistik Lektion 2
Statistik Lektion 3 Simultan fordelte stokastiske variable
Anvendt Statistik Lektion 9
Anvendt Statistik Lektion 5
Sammenligning af to grupper
Sammenligning af to grupper – kapitel 7
Anvendt Statistik Lektion 3
Anvendt Statistik Lektion 6
Statistik og sandsynlighedsregning
Økonometri 1: Specifikation og dataproblemer1 Økonometri 1 Specifikation, og dataproblemer 4. november 2005.
Variansanalyse Modelkontrol
Statistik 1 – Lektion 5 By, energi & miljø, forår 2010 v. Morten Skou Nicolaisen.
Anvendt Statistik Lektion 8
Statistik Lektion 5 Log-lineære modeller.
Anvendt Statistik Lektion 2
Statistik Lektion 6 Konfidensinterval for andele og varians
Analyse af kontingenstabeller
Logistisk Regression Kategoriske og Kontinuerte Forklarende Variable
Økonometri 1: Dummy variable
Learning Objectives 5 Steps of a Significance Test Assumptions
Sandsynlighedsregning Analyse af kontingenstabeller
Dagens program Test of Independence (chi-i-anden) Videre med projekt 3
Statistik II 5. Lektion Log-lineære modeller.
Statistik – Lektion 2 Uafhængighed Stokastiske Variable
Statistik Lektion 3 Bernoulli og binomial fordelingerne
Statistisk inferens Dagens program Grupper, opgave 1
Learning Objectives 5 Steps of a Significance Test Assumptions
Program 1.Påmindelser Pivottabeller og pivotgrafer Omkodning af data (sortering, søg-erstat) Bevar de originale data og lav kontroller 2.Hvem er målgruppen.
Statistik Lektion 7 Hypotesetest og kritiske værdier
Statistik Lektion 7 Hypotesetest og kritiske værdier
Anvendt Statistik Lektion 9
Statikstik II 2. Lektion Lidt sandsynlighedsregning
Simpel Lineær Regression
Opsamling Simpel/Multipel Lineær Regression Logistisk Regression
Statistik Lektion 2 Betinget sandsynlighed Bayes’ regel
Hypotesetest Hypotesetest og kritiske værdier Type 1 og Type 2 fejl
Multipel Lineær Regression
Statikstik II 2. Lektion Lidt sandsynlighedsregning
Bernoulli og binomial fordelingerne
Statistik Lektion 7 Hypotesetest og kritiske værdier
Økonometri 1: Specifikation og dataproblemer1 Økonometri 1 Specifikation, og dataproblemer 9. november 2004.
Økonometri – lektion 5 Multipel Lineær Regression
Statistik Lektion 1 Introduktion Grundlæggende statistiske begreber
Økonometri 1: Specifikation og dataproblemer1 Økonometri 1 Specifikation og dataproblemer 2. november 2004.
Økonometri 1: Inferens i den multiple regressionsmodel1 Økonometri 1 Inferens i den multiple regressionsmodel 3. marts 2003.
Grundlæggende teoretisk statistik
Kvantitativ metode del 1 Gymnasielærer-kursus forår 2007 Aalborg Universitet Sammenhænge ml. variabler, styrke og signifikans Tirsdag den 20. marts, kl.
Statistik II 4. Lektion Logistisk regression.
Opsamling ● Generelle lineære modeller ● Logistisk regression ● Log-lineære modeller ● Mini-projekt.
Statistik II - PM5 Fokus: Analyse af kategoriske variable ● Logistisk regression ● Log-lineære modeller Kursets opbygning: ● 1 ECTS forelæsninger ● 1 ECTS.
Introduktion Grundlæggende statistiske begreber Deskriptiv statistik
Anvendt Statistik Lektion 4
Program – dag 2 (11. april 2011) Dag 2:
Anvendt Statistik Lektion 6
Præsentationens transcript:

Sandsynlighedsregning Analyse af kontingenstabeller Statistik II 1. Lektion Sandsynlighedsregning Analyse af kontingenstabeller

Kursusbeskrivelse Omfang Emner Software: Masser af SPSS Eksamen 5 kursusgange (forelæsning + opgaveregning) 5 kursusgange (mini-projekt) Emner Analyse af kontingenstabeller Logistisk regression Generelle lineære modeller Software: Masser af SPSS Eksamen Mundtlig, individuel, med udgangspunkt i mini-projekt Dato: Det skal vi have aftalt – mind mig lige om det!!

Sandsynlighedsregning Defintion: Hændelse, resultat af et ”eksperiment” Fx hændelsen at det regner i morgen Defintion: Sandsynlighed, andelen af gange hændelsen indtræffer når vi udfører eksperimentet maaaaange gange. Fx. Kast med en mønt. Sandsynligheden for plat er 50%, da andelen af plat er 50% i det lange løb. Notation: Lad A være en hændelse. P(A) betegner sandsynligheden for hændelsen A.

Regneregler for sandsynligheder Lad A være en hændelse P(ikke A) = 1- P(A) Hvis A og B er hændelser, der ikke kan indtræffe samtidigt: P(A eller B) = P(A) + P(B) Fx. sandsyligheden for at yngste persons navn begynder med A eller B To hændelser er (statistisk) uafhængige hvis og kun hvis P(A og B) = P(A)P(B) Fx sandsynligheden for to 6’ere i et terningkast…

Sandsynlighedsfordeling: Diskret variabel Defintion: Diskret variabel En variabel er diskret, hvis den kan tage højst tælleligt mange værdier. Fx. Antal børn i en familie. Antal terning kast inden 6’er. Defintion: Sandsynlighedesfunktion Sandsynligheds fordelingen for en diskret variabel er beskrevet ved en sandsynligheds funktion P(y), så 0 ≤ P(y) ≤ 1 og Salle y P(y) = 1 hvor y er et enkelt udfald af vores eksperiment.

Eksempel Spørgsmål: Hvad mener du er det ideelle antal børn? y P(y) 0.01 1 0.03 2 0.60 3 0.23 4 0.12 5 Total 1.00 Spørgsmål: Hvad mener du er det ideelle antal børn? y er antal børn angivet af en tilfældigt udvalgt amerikaner. P(2) er altså sandsynligheden for at en tilfældig udvalg person svarer at det ideelle antal børn er 2

Sandsynlighedsfordeling: Kont. variabel Defintion: Kontinuert variabel En variabel er kontinuert, hvis den kan tage alle værdier i et interval. Fx. Højden eller indkomst for en BEM studerende. Defintion: Tæthedshedesfunktion Sandsynligheds fordelingen for en kontinuert variabel er beskrevet ved en tæthedsfunktion f(y), så 0 ≤ f(y) og . hvor y er et enkelt udfald af vores eksperiment.

Eksempel Ventetid på at komme igennem til help-line: Lad T være den (tilfældige) ventetid. Sandsynligheden for at vente mere en 15 minutter: 6%

Normalfordelingen Normal fordelingen har tæthedsfunktionen hvor m er middelværdien og s er standardafvigelsen 95% 2.5% 2.5% m m-1.96s m+1.96s

Stikprøvefordeling: Motivation Påstand: Andelen af vælgere der ville stemme på Schwarzenegger er 50%. Stikprøve: Vi spørger 508 tilfældigt udvalgte stemmeberettigede. 284 siger svarer ja. Spørgsmål 1: Hvis påstanden er korrekt, hvor mange Schwarzenegger stemmer ville vi have forventet? Spørgsmål 2: Hvad er umiddelbart det bedste bud på, hvad den sande andel af Schwarzenegger stemmer er? Spørgsmål 3: Er denne afvigelse, så stor at vi kan afvise vores påstand?

Simuleret svar på spørgsmål 3… Spørgsmål: Hvis påstand om 50% opbakning er korrekt, hvor ekstrem er vores rundspørge? Ide: Få en computer til at simulere 1000 ”kunstige” rundspørger, hvor påstanden er korrekt. Konkret: Computeren kaster en mønt 508 gange og udregner andelen af plat. Gentages 1000 gange. Resultat: Andel ”ekstreme simulationer”: 18,6%

Formaliseret svar Setup: Sande andel betegnes p Hypoteser: Arbejds-hypotese (H0): p = 0.5 Alternativ-hypotese (H1): p  0.5 Observerede andel: Sandsynlighed for ekstrem andel: 18,3% (p-værdi) Normal-approksimation til stikprøvefordelingen

Konfidensinterval Defintion: Konfidensinterval Et 95% konfidensinterval indeholder den sande parameterværdi med 95% sikkerhed. Eksempel: Antag p er den estimerede andel baseret på n svar. Da er et 95% konfidensinterval givet ved I Schwarzenegger eksempel Dvs. vi 95% sikre på at den sande andel af ja’er blandt vælgerne er mellem 0.54 og 0.58.

Variabeltyper Spørgeskemaundersøgelse (Survey) Diskrete svartyperne er Kategoriske – der er et antal svarmuligheder Ordinale kategorisk, dvs. ordnede kategorier Fx. Indkomstgruppe: Lav, Mellem eller Høj Nominale kategoriske, dvs. kategorier uden ordning. Fx. Favorit M&M: Rød, Grøn eller Blå.

Dikotome variable Dikotom variabel: Kategorisk variabel med kun to kategorier. Fx Ja/Nej, Mand/Kvinde, Sort/Hvid. Hvis de to kategori er hhv 0 og 1kaldes variablen binær. I SPSS omkoder dikotome variable til binære – hold øje med hvad omkodes til hvad.

Generel kontingenstabel I en kontingenstabel indeholder hver celle det antal observationer, der falder inden for den givne kombination af kategorier. Spørgsmål: Er der sammenhæng mellem farvevalg og køn? Farve på foretrukne M&M Rød Grøn Blå Køn Mand 21 35.0% 13 21.7% 26 43.3% 60 100.0% Kvinde 34 53.2% 7 10.9% 23 35.9% 64 Total 55 44.4% 20 16.1% 49 39.5% 124 Celle: Antal personer, der er kvinde og som foretrækker rød

Spørgsmålet på hovedet Spørgsmål: Er der sammenhæng mellem farvevalg og køn? Vi vender spørgsmålet på hovedet: Spørgsmål: Kan vi afvise at der ingen sammenhæng er mellem køn og farvevalg? Antag at der ingen sammenhæng er mellem køn og farvevalg. Hvilket antal observationer ville vi så forvente i hver celle i vores kontingenstabel? Vi antager at de marginale antal ligger fast, dvs. det totale antal mænd, kvinder, røde, grønne og blå.

Farve på foretrukne M&M Forventede antal Hvis der ingen sammenhæng er mellem køn og farvevalg, så bør procentfordelingen være den samme blandt mænd og kvinder. Andel røde: 55/124 = 44.4% Forventede røde blandt mænd: 44.4% af 64 = 64*55/124 = 28.4 Farve på foretrukne M&M Rød Grøn Blå Køn Mand 60 100.0% Kvinde 64 Total 55 44.4% 20 16.1% 49 39.5% 124

Generel formel for det forventede I hver celle har vi Xij : observerede antal i celle (i,j) Eij : forventede antal i celle (i,j) Desuden har vi N: Totale antal observationer Ci : Antal observationer i ’te kolonne Rj: Antal observationer er j’te række Forventede antal for celle ( i,j ) er Eij = Ci Rj / N

Ombytning uden betydning Vi kan bytte rundt på farve og køn uden at det gør en forskel: Andelen af mænd: 60/124 = 48.4% Forventede antal mænd blandt røde: 48.4% af 55 = 55*60/124 = 28.4

Så langt så godt Vi har… Vi har arbejdshypotesen at der ikke er sammenhæng mellem køn og farvevalg Vi har fundet de forventede antal, hvis arbejdshypotesen er sand. Vi mangler… Vi mangler et mål for hvor meget de forventede antal afviger fra de forventede. Vi mangler en måde at afgøre, hvornår afvigelsen er så stor, at vi ikke længere kan acceptere arbejdshypotesen.

Mål for afvigelsen Vi bruger følgende mål Vi kalder c2 (”ki-i-anden”) en teststørrelse. c2 bruges til at teste arbejdshypotesen. Bemærk: c2 ≥ 0 c2 = 0 perfekt match Jo større c2 , jo mindre tror vi på arbejdshypotesen

c2 teststørrelse for eksemplet I en kontingenstabel indeholder hver celle det antal observationer, der falder inden for den givne kombination af kategorier. Spørgsmål: 4.9 er ikke nul! Men er det så langt fra nul, at vi ikke kan acceptere arbejdshypotesen om ingen sammenhæng? Farve på foretrukne M&M Rød Grøn Blå Køn Mand 21 26.6 13 9.7 26 23.7 60 Kvinde 34 28.4 7 10.3 23 25.3 64 Total 55 20 49 124

Lidt mere teoretisk tilgang Vi har en teoretisk fordeling: En såkaldt c2-fordeling med 2 frihedsgrader. Det røde areal svarer til sandsynligheden for at observere en mere ekstrem c2-værdi. Her er arealet 8.49%. Denne værdi kaldes også p-værdien. I en general tabel med r rækker og c kolonner, vil histogrammet svare til en c2-fordeling med (r-1)(c-1).

Beslutningen! Jo mere ekstrem c2 -værdi, jo mindre tror vi på arbejdshypotesen. Jo mere ekstrem c2 -værdi, jo mindre p-værdi. Hvis p-værdien er mindre end 5% så afviser vi arbejdshypotesen. Vi siger at testen (af arbejdshypotesen) er signifikant. Grænsen på de 5% kaldes signifikans-niveauet, og betegnes a. Signifikans-niveauet kan vælges frit, mer er typisk 10%, 5% eller 1%. Signifikans-niveauet vælges før teststørrelsen udregnes! I eksemplet kan vi ikke afvise arbejdshypotesen. Vi kan altså ikke afvise af der ingen sammenhæng er mellem køn og farvevalg.

Signifikanstest generelt Opstil statistisk model / statistiske antagelser Fx. at stikprøven er tilfældigt udvalgt. Opstil arbejds-hypotese Betegnes H0 , nul-hypotesen Fx. uafhængighed mellem køn og farvevalg Opstil alternativ-hypotese Den ”modsatte” hypotese af H0 Betegnes H1 Bemærk: Arbejdshypotesen er ikke nødvendigvis den hypotese vi tror på eller gerne vil ”bevise”. Arbejdshypotesen er generelt valgt, så den er mere ”præcis” end alternativ-hypotesen. Uafhængighed (ingen sammenhæng) er præcist, mens alternativet, afhængighed, kan være mange ting.

Signifikanstest generelt forts. Vælg signifikans niveau a Typisk 5%. Konstruer en test-størrelse Hvilke værdier er ekstreme for H0? Beregn teststørrelsen Beregning af test-størrelse ordnes af SPSS Beregn p-værdien p-værdien er sandsynligheden for at observere en mere ekstrem test-størrelse ”næste gang”, under antagelse af at H0 er sand, og at modellen og dens antagelser er korrekte. Hvis p-værdien < a, så kan vi ikke afvise H0. Hvis p-værdien > a, så afviser vi H0 og accepterer H1 hypotesen. Fortolk resultatet.

Man begår fejl Når vi udfører en signifikanstest kan vi begå en af to fejl Type 1 fejl: Vi afviser H0 selvom den er sand Type 2 fejl: Vi accepterer H0 selvom den er falsk Antag modellen er korrekt, H0 er sand og at vi har valg et signifikans-niveau a. Hvad er da sandsynligheden for at begå en Type 1 fejl?

Lidt gode råd p-værdien er ikke sandsynligheden for at H0 er sand. p-værdien er ikke er udtryk for styrken af sammenhængen mellem to variable. p-værdien kan fortolkes som et udtryk for hvor meget vi tror på H0 hypotesen. HVER GANG i ser en p-værdi i SPSS (”sig.”), så gør jer hver gang klart, hvilken H0 hypotese den passer sammen med!!! Det er nemt nu, men det bliver mere indviklet senere…

Eksempel i SPSS Analyze → Descriptive Statistics → Crosstabs

SPSS output Opstiller hypoteser: H0 : Uafhængighed mellem arbejdsløs og vold/trusler H0 : Afhængighed Sig. niv. a = 5% c2-teststørrelse p-værdi Da p-værdien < 0.05 afviser vi at arbejdsløshed og vold/trusler er uafhængige.

Mere SPSS output

Mere end to variable Indtil nu: Afgøre om der er en (statistisk signifikant) sammenhæng mellem to kategoriske variable. Det næste: Kan andre katogoriske kontrolvariable hjælpe med at forstå sammenhængen? Ideen er at inddele det indsamlede data efter hvert svar i kontrolvariablen. Og derefter gentage tabelanalysen for hver delmængde af data. Vi siger vi stratificerer efter kontrolvariablen. Lad os se på nogle eksempler…

Sammenhæng mellem race og dom Dødsdom Anden dom Total Morder Sort 59 2.4% 2448 97.6% 2507 100.0% Hvid 72 3.2% 2185 96.8% 2257 100.0% 131 2.7% 4633 97.3% 4764 100.0% Test: H0: Ingen sammenhæng ml. race og dom. Teststørrelse: c2 = 3.1, df = 1, p = 0.078 ( > 0.05 ), g = -0.155 Konklusion: Vi kan ikke afvise H0. Dvs., vi kan ikke afvise, at der er uafhængighed mellem morders race og afsagt dom. (Simpelt: Ingen sammenhæng)

Kontrolvariabel: Offers race Dom Offer Dødsdom Anden dom Total Sort Morder 11 0.5% 2209 99.5% 2220 100.0% Hvid 111 100.0% 2320 99.5% 2331 100.0% 48 16.7% 239 83.3% 287 100.0% 72 3.4% 2074 96.6% 2146 100.0% 120 2.7% 2313 95.1% 2433 100.0% Χ2 = 0.55 df = 1 p = 0.59 g = 1.00 Χ2 = 96.5 df = 1 p = 0.000 g = 0.71

Opsummering Sammenhængen mellem race og dom var skjult Ikke-stratificeret analyse: Ikke-signifikant sammenhæng Stratificeret analyse: Signifikant sammenhæng Sammenhængen er muligvis lokal Kun signifikant sammenhæng når offer er hvid Simpsons paradoks – sammenhængen er ”vendt” Ikke-stratificeret analyse: Hvide straffes hårdest! Stratificeret analyse: Sorte straffes hårdest – uanset offers race.

Stratificering i SPSS Stratificering efter offers race.

Elaborering: Arbejde og boligforhold God Dårlig Total Tilknytning til arbjeds-markedet Fuldtid 83 69.7% 36 30.3% 119 100.0% Deltid 74 82.2% 16 17.8% 90 100.0% Pensioneret 736 82.5% 156 17.5% 892 100.0% Ingen 167 77.0% 50 23.0% 217 100.0% 1060 80.4% 258 19.6% 1318 100.0% Test: H0: Ingen sammenhæng mellem arbejde og boligforhold. Teststørrelse: Χ2 = 12.9, df = 3, p = 0.005 Konklusion: Signifikant sammenhæng

Bemærkninger Tabellen viser sammenhængen mellem arbejde og boligforhold blandt 70-årige i 1967 og 1984. Hvad mon forklarer denne sammenhæng? Lad os stratificere efter år, dvs. separate tabeller for 1967 og 1984.

Elaborering: Job-status og boligstandard God Dårlig Total 1967 Tilknytning til arbjeds-markedet Fuldtid 83 69.7% 36 30.3% 119 100.0% Deltid 74 82.2% 16 17.8% 90 100.0% Pensioneret 736 82.5% 156 17.5% 892 100.0% Ingen 167 77.0% 50 23.0% 217 100.0% 1060 80.4% 258 19.6% 1318 100.0% Test: H0: Ingen sammenhæng ml. job-status og boligstandard. Teststørrelse: Χ2 = 0.0, df = 3, p = 0.998 Konklusion: Vi kan ikke afvise H0: Ingen signif. sammenhæng.

Elaborering: Job-status og boligstandard God Dårlig Total 1984 Tilknytning til arbjeds-markedet Fuldtid 18 90.0% 2 10.0% 20 100.0% Deltid 46 95.8% 2 4.2% 48 100.0% Pensioneret 528 91.8% 47 8.2% 575 100.0% Ingen 85 93.4% 6 6.6% 91 100.0% 677 92.2% 57 7.8% 1318 100.0% Test: H0: Ingen sammenhæng ml. job-status og boligstandard. Teststørrelse: Χ2 = 1.3, df = 3, p = 0.725 Konklusion: Vi kan ikke afvise H0: Ingen signif. sammenhæng.

Konklusioner Sammenhængen mellem arbejde og boligforhold forsvinder når vi stratificerer efter kohordeår. Vi siger at kohordeåret forklarer sammenhængen mellem arbejde og boligforhold. Statistiker: Betinget uafhængighed.