Statistik Lektion 4 Kovarians og korrelation Mere om normalfordelingen Den centrale grænseværdi sætning Stikprøvefordelingen
Repetition: Kontinuerte stokastiske variable f (x) er en sandsynlighedstætheds-funktion, hvis Fordelingsfunktion Sandsynlighed for interval f(x) P(X≤x) F(x) P(2 ≤x≤3)
Simultan kumulativ fordelingsfunktion og uafhængighed Lad X1,X2,…,Xn være stokastiske variable. Definition: Simultan kumulativ fordelingsfunktion: Dvs. sandsynligheden for at X1 er mindre end x1, samtidig med at X2 er mindre end x2 osv. Definition: De stokastiske variable er uafhængige hvis og kun hvis hvor F(xi) = P(Xi ≤ xi) den marginale fordelingsfunktion for Xi.
Kovarians Lad X og Y være to stokastiske variable, hvor Definition: Kovariansen mellem X og Y er Nyttig regneregel:
Kovarians: Bemærkninger Definition: Kovariansen mellem X og Y er Hvis X og Y er uafhængige så er Cov(X,Y) = 0. Det omvendte gælder ikke generelt. Fortolkning (håndviftende): Hvis store værdier af X følges med store værdier af Y og små værdier af X følges med små værdier af Y så er kovariansen mellem X og Y positiv. Hvis store værdier af X følges med små værdier af Y og omvendt, så er kovariansen mellem X og Y negativ.
Kovarians: Eksempel Lad X være en stokastisk variabel, hvor Definer den stokastiske variabel Y ved Dvs. Kovariansen mellem X og Y er da givet ved y x
Korrelation Korrelationen er et mål for graden af lineær sammenhæng mellem to stokastiske variable. Defintion: Korrelationen mellem stokastiske variable X og Y er: Der gælder Pr definition: -1 ≤ r ≤ 1 Hvis r = -1 perfekt negativ lineær sammenhæng Hvis r = 0 ingen lineær sammenhæng Hvis r = +1 perfekt positiv lineær sammenhæng
Korrelation: Eksempel fortsat y Lad X være en stokastisk variabel, hvor Definer den stokastiske variabel Y ved Dvs. Korrelationen mellem X og Y er da givet ved Y Perfekt lineær sammenhæng x X
Kovarians: Mere kompliceret eksempel Lad X og Z være uafhængige stokastiske variable, hvor Definer den stokastiske variabel Y ved Dvs. Da har vi y Y Z x X
Sum af stokastiske variable Lad X1, X2,…,Xn være stokastiske variable med middelværdier μ1, μ2,…, μn og varianser s12, s22,…, sn2. Middelværdien af en sum Variansen af en sum, hvis X1, X2,…,Xn er indbydes uafhængige Hvis ej uafhængige
Repetition: Normal fordelingen Dens kendetegn er: Klokkeformet og symmetrisk omkring dens middelværdi Middelværdi=median=mode Den er karakteriseret ved en middelværdi μ og varians σ² (eller standard afvigelse σ). X~N( m , s² ) betyder, at X følger en normal fordeling med middelværdi μ og varians σ² Arealet under kurven indenfor zσ af middelværdien, er den samme for enhver normal fordeling, uanset middelværdi og standard afvigelse. Er uanset parametre værdier, defineret for alle x (dvs x kan antage værdier fra minus uendelig til plus uendelig)
Standard normal fordelingen Standard normal fordelingen, er normalfordelingen med middelværdi μ=0 og standard afvigelse σ=1, Z~N(0,1²) Standard Normal fordeling . 4 . 3 =1 { z ) ( f . 2 . 1 . - 5 - 4 - 3 - 2 - 1 1 2 3 4 5 = 0 Z NB: En standard normal fordelt stokastisk variabel betegnes sædvanligvis Z.
Ny type spørgsmål Eksempel fra sidst: Find P(Z ≤ -1.76 ) Nyt eksempel: Find en værdi z, så P(Z ≤ z) = F(z) = 0.90 F(z) = 90% z Tabelløsning: I Tabel 1 find z, så F(z) er tættest mulig på 0.90. F(1.28) = 0.8997 og F(1.29) = 0.9015. Dvs. Svaret er et sted mellem 1.28 og 1.29…
Ny type spørgsmål - fortsat Eksempel igen: Find en værdi z, så P(Z ≤ z) = 0.90. 90% z Rcmdr løsning: Distribution → Continuous distributions → Normal distribution → Normal quantiles… R løsning: qnorm(0.90,mean=0,sd=1)
Transformation til Standardnormal Efter en lineær transformation af en normalfordelt stokastisk variabel er stadig en normalfordelt stokastisk variabel. Lad X ~ N(m,s2) og definer Y = aX + b, så gælder E[Y] = aE[X] + b = am + b V[Y] = a2V[X] = a2s2 Y ~ N(am + b, a2s2) Lad X ~ N(m,s2) og definer Z = (X-m)/s, så gælder E[Z] = 0 V[Z] = 1 Z ~ N(0,1)
Transformation: Eksempel Antag studerende score til eksamen er normalfordelt med middelværdi 60 og standardafvigelse 15. Dvs. score X ~ N(60,152) Spørgsmål: Find x, så P(X ≤ x) = 0.90 Ide: Transformer problemet til et, der vedrører en standard normal-fordelt stokastisk variabel. Vi ved allerede P(Z ≤ 1.282 ) 0.90 Dvs. 90% af de studerende har en score under 79.23.
Sum af normalfordelte stok. var. Antag X1,…, Xn er uafhængige stokastiske variable, hvor Dvs. Xi er normal-fordelt med middelværdi m1 og varians s12. Regel: Summen af normal-fordelte stokastiske variable er også en normal-fordelt stokastisk variabel. Definer S = X1 + ⋯+ Xn
Statistik Statistisk Inferens: Udtale os om værdier af populations parametre Teste hypoteser om værdier af populations parametre Tage beslutninger på basis af stikprøver Drage konklusioner om egenskaber for en population... …på basis af observationer i en stikprøve, en del af populationen.
The Literary Digest Poll (1936) Ikke biased stikprøve Ikke biased, repræsentativ stikprøve fra hele populationen. Demokrater Republikanere Population Biased stikprøve Biased, ikke repræsentativ stikprøve af folk, der har telefon og/eller bil og/eller læser Digest. Folk, der har telefon og/eller bil og/eller læser Digest. Demokrater Republikanere Population
Data indsamling Data indsamling Direkte observationer Eksperimenter Registre Spørgeskemaer Et problem med spørgeskemaer er nonrespons bias – hvad gør man når folk ikke vil svare? Typisk vil gruppen af folk, der ikke svarer være anderledes end folk, der svarer. Lav for eksempel en opfølgning på spørgeskemaet ved at ringe til folk. Folk, der slet ikke svarer, vil ligne dem der svarer anden gang mere end de ligner dem, der svarer første gang (men ikke helt). Man kan også ”over sample” dem man tror ikke vil svare (hvis man ved det) og dermed have større chance for at nogen af dem svarer.
Hvordan laver man en stikprøve Simpel stikprøve I en simpel stikprøve er observationerne udvalgt, så enhver anden stikprøve med samme antal observationer, er lige så sandsynlig at vælge Observationerne kan for eksempel vælges ved hjælp af en ”Random numbers ” tabel man kan finde i nogle bøger. 10495, 57931, 00234, 35640,……. Stratificeret stikprøve Opdele populationen i disjunkte mængder (strata) og tage en simpel stikprøve fra hver strata. Hvis man for eksempel ved, at der er forskel på hvordan mænd og kvinder svarer og der i populationen er 54 % mænd og 46 % kvinder.
Stikprøvefordeling Antag at vi vil udtale os om en populationsparameter (fx middelværdien m) på baggrund af en stikprøve statistik (fx. stikprøve-gennemsnittet ). Vores konklusion skal tage i betragtning, at værdien af ændrer sig for hver ny tilfældig stikprøve Den tilfældig variation af stikprøve-statistikken (her gennemsnittet) betegnes stikprøve-fordelingen (af stikprøve-gennemsnittet)
Stikprøvefordeling: Eksempel En direktør har seks ansatte med ancienniteten målt i år: 2 4 6 6 7 8 Populationens gennemsnit er Vi udtager nu en stikprøve på to ansatte og udregner stikprøve-gennemsnittet. Bemærk: Vi kan udvælge to ansatte på 15 måder:
Stikprøvefordeling: Eksempel De 15 lige sandsynlige stikprøver og deres stikprøve-gennemsnit. De mulige gennemsnit og deres sandsynlighed. Stik-prøve Stikpr-genst Stikpr.gnst 2,4 3.0 4,8 6.0 2,6 4.0 6,6 6,7 6.5 2,7 4.5 6,8 7.0 2,8 5.0 4,6 7,8 7.5 4,7 5.5 Stikpr. gnst Sandsyn-lighed 3.0 1/15 4.0 2/15 4.5 5.0 3/15 5.5 6.0 6.5 7.0 7.5
Stikprøvefordeling: Eksempel Samme direktør og ansatte, men nu en stikprøvestørrelse på n = 5. Bemærk 1: Kun værdier tæt på populations-middelværdien er sandsynlige. Bemærk 2: Stikprøve-gennemsnittet tættest på populations-middelværdien er mest sandsynlig. Stikprøve Sandsynlighed 2,4,6,6,7 5.0 1/6 2,4,6,6,8 5.2 2,4,6,7,8 5.4 2/6 2,6,6,7,8 5.8 4,6,6,7,8 6.2
Stikprøve-fordeling Antag nu at vi tager en tilfældig stikprøve bestående af n observationer fra en meeeget stor population. Populationen har middelværdi m og varians s2. Vi betragter de enkelte observationer i stikprøven som stokastiske variable X1, X2,…,Xn. For hver observation Xi antager vi at E[Xi] = m og V[Xi] = s2. Hvad kan vi nu sige om fordelingen af stikprøve-gennemsnittet?
Stikprøve-gennemsnittets stikprøve-fordeling: Forventede værdi Lad de stokastiske variable X1, X2,…,Xn være en tilfældig stikprøve fra en population. Stikprøve-gennemsnittet af disse SV er Den forventede værdi af stikprøve-gennemsnittet er Dvs stikprøve-gennemsnittet i gennemsnit er populations-gennemsnittet…
Stikprøve-gennemsnittets stikprøve-fordeling: Varians Hvis stikprøvestørrelsen n er lille i forhold til populationens størrelse N kan vi antage at SV X1, X2,…,Xn er uafhængige. Variansen af stikprøve-gennemsnittet er da Bemærk: Jo større stikprøve, jo mindre varians. Hvis n er stor i forhold til N kan vi ikke antage uafhængighed. Variansen af stikprøve-gennemsnittet er da
Normal-fordelt Population Hvis populationen er normal-fordelt gælder Xi ~ N(m,s2) Da summen af normal-fordelte SV er en normal-fordelt SV har vi at Vi kan standardisere stikprøve-gennemsnittet: Udregnes som på forrige slide
Eksempel: Tændrør Producent påstår at levetiden for tændrør er normalfordelt med middelværdi 36.000 miles og SD 4.000 miles. En stikprøve af størrelse n = 16 har en gennemsnits-levetid på 34.500. Spørgsmål: Hvis producenten har ret, hvad er sandsynligheden for et stikprøvegennemsnit mindre end eller lig 34.500? Løsning: Tror vi på producentens påstande?
Den Centrale Grænseværdi Sætning (CLT) (Central limit theorem) Lad X1, X2,…, Xn, er være n uafhængige stokastiske variable fra samme fordeling med middelværdi m og varians s2. Da gælder, at når stikprøvestørrelsen n øges, så vil fordelingen af nærme sig mere og mere en standard normal-fordeling. Tommelfinger-regel: n ≥ 30 er nok til en god tilnærmelse.
Eksempler Normal Uniform Skewed Population n = 2 n = 30 X General
Java Eksempel Her er et par animerede illustrationer af den centrale grænseværdi sætning. http://www.stat.sc.edu/~west/javahtml/CLT.html http://www.ruf.rice.edu/~lane/stat_sim/sampling_dist/ Prøv selv at google efter flere…
Eksempel: Ny Cafe? Kafe Kjeld vil starte en ny cafe i en ny by! Erfaringen viser, at det bliver en succes, hvis gennemsnits indkomsten er mindst 300.000kr. Det vides at SD for indkomst er 25.000kr. En stikprøve på n = 36 indbyggere har et indkomsts- gennemsnit på 311.500kr. Spørgsmål: Skal han åbne en ny cafe?