Økonometri 1: Den multiple regressionsmodel1 Økonometri 1 Den multiple regressionsmodel 21. september 2004

Økonometri 1: Den multiple regressionsmodel 2 Dagens program Emnet for denne forelæsning er stadig den multiple regressionsmodel (Wooldridge kap ) Praktiske bemærkning Opsamling fra sidst –Irrelevante variable og udeladte variable Variansen på OLS estimatoren Multikollinaritet Variansen i misspecificerede modeller Estimat af variansen på fejlleddet Gauss-Markov teoremet

Økonometri 1: Den multiple regressionsmodel 3 For mange variable i modellen Irrelevante variable i regressionsmodellen: Eksempel:  Den sande model (som opfylder MLR 1-MLR4)  Regressionsmodellen som estimeres med OLS:  Har det betydning for estimaterne af β 0, β 1 og β 2 ?  Estimaterne er stadig middelrette:  Men inklusion af irrelevante variable påvirker variansen af estimaterne

Økonometri 1: Den multiple regressionsmodel 4 For få variable Udeladte relevante variable OLS estimaterne er biased (ikke middelrette) Eksempel:  Den sande model (som opfylder MLR 1- 4)  Regressionsmodellen som estimeres ved OLS   Middelværdien af OLS estimatet

Økonometri 1: Den multiple regressionsmodel 5 For få variable Bias Corr(x 1,x 2 ) positiv Corr(x 1,x 2 ) negativ β 2 >0 Positiv bias Negativ Bias β 2 <0 Negativ bias Positiv bias

Økonometri 1: Den multiple regressionsmodel 6 Variansen af OLS estimatoren Antagelse MLR 5 (homoskedasticitet): Hvis antagelsen ikke er opfyldt, siges at fejlleddet er heteroskedastisk Antagelsen er ikke opfyldt hvis variansen f.eks. er givet ved

Økonometri 1: Den multiple regressionsmodel 7 Variansen på OLS estimatoren (fortsat) Antagelsen MLR 5 kan også formuleres ved brug af matricer (se appendix E.2): hvor I er en nxn identitetsmatrix hvor X er en nx(k+1) matrix, som indeholder de forklarende variable

Økonometri 1: Den multiple regressionsmodel 8 Variansen på OLS estimatoren (fortsat) Antagelserne MLR 1-MLR 5 kaldes Gauss-Markov antagelserne Teorem 3.2 Under antagelserne MLR 1-MLR 5 er variansen af OLS estimatoren givet ved X er en nx(k+1) matrix Parameteren  er en (k+1)x1 matrix (vektor)

Økonometri 1: Den multiple regressionsmodel 9 Variansen af OLS estimatoren (fortsat) Bevis (se appendix E.2) (tavlegennemgang)

Økonometri 1: Den multiple regressionsmodel 10 Variansen af OLS estimatoren (fortsat) Matrixformen for variansen er som regel lettest at arbejde med Til at fortolke variansen kan det være lettere at benytte følgende opskrivning af variansen hvor og R j 2 stammer fra regressionen af x j på de øvrige forklarende variable Bevis for ovenstående opskrivning af variansen se appendix i kap. 3

Økonometri 1: Den multiple regressionsmodel 11 Variansen.. (fortsat) De tre komponenter i variansen Variansen af fejlleddet:  Jo større varians på fejlleddet jo større varians på alle estimaterne Variationen i x j  Jo større variation i x j jo mindre varians på estimatet β j Variation R 2 j  Jo tættere R 2 j er på 0 jo mindre er variansen på estimatet β j  Mindst varians opnås ved R 2 j =0 hvilket svarer til at x j er ukorreleret med de øvrige forklarende variable  Jo tættere R 2 j er på 1 jo større er variansen på estimatet β j  Hvis antagelsen MLR 4 er opfyldt er R 2 j altid forskellig fra 1

Økonometri 1: Den multiple regressionsmodel 12 Multikollinaritet Multikollinaritet optræder, når R j 2 er tæt på 1 Følgerne af multikollinaritet:  Variansen på estimatet β j vil være stor (se figur 3.1) Hvornår optræder multikollinarietet:  Når nogle af de forklarende variable er højt korreleret  Når der er få observationer

Økonometri 1: Den multiple regressionsmodel 13 Multikollinariet (fortsat) Er det et problem, at der er multikollinaritet?  Det afhænger af hvor stor variansen på estimaterne bliver  Det afhænger af hvad analysen skal bruges til  Høj korrelation mellem nogle af de forklarende variable betyder ikke så meget, hvis det ikke er estimaterne til disse parametre, man primært er interesseret i Hvad stiller man op med multikollinaritet  Indsaml mere data  Drop en eller flere variable fra modellen. Dette er dog langt fra altid en god ide (problemer med udeladte variable)

Økonometri 1: Den multiple regressionsmodel 14 Variansen i misspecificerede modeller Variansen i misspecificerede modeller illustreres ved et eksempel Antag følgende model opfylder Gauss-Markov antagelserne: Vi har to estimator af β 1:  OLS estimatet fra MLR:  OLS estimatet fra SLR: Variansen:

Økonometri 1: Den multiple regressionsmodel 15 Variansen i misspecificerede modeller (fortsat) Den betingede varians af er altid mindre end (eller lig med) variansen af Hvis x 1 og x 2 er ukorreleret er variansen den samme og begge estimater middelrette Hvis β 2 =0 er begge estimater middelrette og har mindst varians. Altså foretrækkes Hvis β 2 ╪0 er middelret mens er biased. Variansen af er mindst. Det er ikke oplagt hvilken estimator som foretrækkes.

Økonometri 1: Den multiple regressionsmodel 16 Estimatet på variansen af fejlleddet Estimatet på fejlleddet udregnes stort set som i den simple regressionsmodel Ud fra OLS estimaterne kan residualerne beregnes: Estimatet beregnes til: Nævneren er bestemt til at være antallet af frihedsgrader  (antal obs.) – (antal estimerede parametre)

Økonometri 1: Den multiple regressionsmodel 17 Estimatet af variansen på fejlleddet (fortsat) Teorem 3.3  Hvis Gauss-Markov antagelserne (MLR 1- MLR 5) er opfyldt, er estimatet på variansen af fejlleddet middelret:

Økonometri 1: Den multiple regressionsmodel 18 Gauss-Markov teoremet Hvis Gauss-Markov antagelserne er opfyldt, kan man vise, at OLS estimatoren er den estimator, som har den mindste varians blandt lineære middelrette estimatorer Hvorfor er det at vigtigt at bruge en estimator med mindst mulig varians? OLS kaldes også BLUE for  Best – (mindst varians)  Linear  Unbiased  Estimator

Økonometri 1: Den multiple regressionsmodel 19 Gauss-Markov teoremet Teorem 3.4 Under Gauss-Markov antagelserne (MLR 1- MLR 5) gælder der, at OLS estimaterne for β 0, β 1,β 2,…,β k er BLUE Bevis (se appendix E.2) (tavlegennemgang)