Den multiple regressionsmodel 21. september 2005

Præsentationer af emnet: "Den multiple regressionsmodel 21. september 2005"— Præsentationens transcript:

1 Den multiple regressionsmodel 21. september 2005
Økonometri 1 Den multiple regressionsmodel 21. september 2005 Økonometri 1: Den multiple regressionsmodel

2 Økonometri 1: Den multiple regressionsmodel
Dagens program Emnet for denne forelæsning er den multiple regressionsmodel (Wooldridge kap appendix E.1-E.2) Definition og motivation Fortolkning af parametrene i den multiple regressionsmodel Sammenligning af den simple og multiple regressionsmodel Regression uden konstantled Middelrette OLS estimatorer For mange/for få variable Økonometri 1: Den multiple regressionsmodel

3 Definition og motivation
Den multiple regressionsmodel er en udvidelse af den simple regressionsmodel Definition: k forklarende variable: x1,…, xk Et konstantled k+1 (ukendte) parametre: u fejlled Antagelsen E(u| x1,…, xk)=0 Økonometri 1: Den multiple regressionsmodel

4 Definition og motivation
Fordelen ved den multiple regressionsmodel er: Man kan eksplicit kontrollere for mange flere faktorer Det betyder, at disse faktorer ikke er indeholdt i u Det er forhåbentlig lettere at lave ceteris paribus fortolkninger Man kan modellere mere generelle funktionelle former F.eks. modeller som Økonometri 1: Den multiple regressionsmodel

5 Den multiple regressionsmodel på matrixform
For n observationer kan vi opskrive y og u er en nx1 matrix (vektor) X er en nx(k+1) matrix Parameteren  er en (k+1)x1 matrix (vektor) Økonometri 1: Den multiple regressionsmodel

6 Regressionsmodel på matrixform
Den multiple regressionsmodel kan skrives som: OLS estimatoren kan udregnes som i den simple regressionsmodel ved brug af moment metoden Moment betingelsen: Økonometri 1: Den multiple regressionsmodel

7 Regressionsmodel på matrix form
OLS estimatoren Hvis (X’X) er invertibel (X har fuld rang) kan OLS estimatoren udregnes til OLS estimatoren kan også udledes ved at minimere Økonometri 1: Den multiple regressionsmodel

8 Fortolkning af OLS regression
Fortolkning af OLS parametrene Antag følgende model: Den forudsagte værdi af y er givet ved Ændringerne i forudsagte værdi af y, Økonometri 1: Den multiple regressionsmodel

9 Fortolkning .. (fortsat)
Fortolkningen af estimatet for l: Ændringen i y når alle øvrige forklarende variable holdes konstante: Den multiple regressionsmodel giver mulighed for at lave ceteris paribus fortolkninger, selvom data ikke er indsamlet så enkelte variable kan holdes konstante Økonometri 1: Den multiple regressionsmodel

10 Økonometri 1: Den multiple regressionsmodel
Eksempel: Timeløn Vi benytter nu data fra 1994 i stedet for 1980 Til denne analyse af timeløn introduceres en ny variabel: Arbejdsmarkedserfaring (baseret på ATP indbetalinger) målt i år Modellen som estimeres er givet ved: Økonometri 1: Den multiple regressionsmodel

11 Fortolkning .. (fortsat)
OLS estimatoren er besværlig at opskrive (med mindre man anvender matrixformen) I tilfældet med to forklarende variable kan man dog få et udtryk for OLS estimaterne: Model Estimatet for 1 kan skrives som Hvor r1 er residualerne fra følgende OLS regression Økonometri 1: Den multiple regressionsmodel

12 Fortolkning .. (fortsat)
Residualerne r1 kan altså fortolkes som den del af x1 som er ukorreleret med x2 r1 er effekten af x1 efter at have ”kontrolleret” for x2 Estimatet af 1 kan opnås ved følgende procedure: Regresser x1 på x2 og udregn residualerne r1 Regresser y på residualerne r1 Økonometri 1: Den multiple regressionsmodel

13 Økonometri 1: Den multiple regressionsmodel
OLS Residualer For OLS residualer fra den multiple regressionsmodel (med et konstantled) gælder følgende: Gennemsnittet af residualerne er lig 0: Den empiriske kovarians mellem residualer og de forklarende variable er lig 0: Punktet er altid på på OLS regressionslinien Økonometri 1: Den multiple regressionsmodel

14 OLS residualer (fortsat)
Goodness of fit: Læs selv Dette er helt analogt til den simple lineære regressionsmodel Økonometri 1: Den multiple regressionsmodel

15 Regressionsmodel uden konstantled
Regressionsmodel uden konstantled estimeret med OLS I denne model gælder: OLS residualerne har ikke gennemsnit lig 0 R2 er re-defineret til og kan blive negativet Hvis populations modellen indeholder et konstantled, vil OLS estimaterne af 1,…k være biased (ikke middelrette) Økonometri 1: Den multiple regressionsmodel

16 Middelret OLS estimator
Antagelser MLR 1 (lineær i parametrene): Den afhængige variabel y kan beskrives ved følgende model: MLR 2 (tilfældig stikprøve): Vi har en tilfældig stikprøve (yi,xi1, xi2,.., xik) i=1,..,n fra populationen (se definition i appendix c.1) Økonometri 1: Den multiple regressionsmodel

17 Økonometri 1: Den multiple regressionsmodel
Middelret .. (fortsat) MLR 3 (betinget middelværdi af fejlled): Grunde til at MLR 3 ikke er opfyldt: Forkert funktionel form (mere om dette i kap. 9) Udeladte variable, som er korreleret med en af de forklarende variable Målefejl i de forklarende variable (mere om dette i kap. 9) Hvis MLR 3 er opfyldt kaldes de forklarende variable for eksogene forklarende variable Hvis xj er korreleret med u kaldes xj for endogen forklarende variable Økonometri 1: Den multiple regressionsmodel

18 Økonometri 1: Den multiple regressionsmodel
Middelret .. (fortsat) MLR 4 (ingen perfekt multikollinaritet) I stikprøven (og i populationen) kan ingen af de forklarende variable skrives som en lineær funktion af de øvrige De forklarende variable må godt være korreleret f.eks.: kan både x og x2 være forklarende variable Eksempler på perfekt multikollinaritet: Alder og fødselsår (i tværsnitsdata) Antallet af observationer er lille (n<k+1) Økonometri 1: Den multiple regressionsmodel

19 Økonometri 1: Den multiple regressionsmodel
Middelret .. (fortsat) Teorem 3.1 Under antagelse MLR 1-MLR 4 gælder: Bevis laves som i appendix E.2 (tavlegennemgang) Økonometri 1: Den multiple regressionsmodel

20 For mange variable i modellen
Irrelevante variable i regressionsmodellen: Eksempel: Den sande model (som opfylder MLR 1-MLR4) Regressionsmodellen som estimeres med OLS: Har det betydning for estimaterne af β0, β1 og β2? Estimaterne er stadig middelrette: Men inklusion af irrelevante variable påvirker variansen af estimaterne Økonometri 1: Den multiple regressionsmodel

21 Økonometri 1: Den multiple regressionsmodel
For få variable Udeladte relevante variable OLS estimaterne er biased (ikke middelrette) Eksempel: Den sande model (som opfylder MLR 1- 4) Regressionsmodellen som estimeres ved OLS Middelværdien af OLS estimatet Økonometri 1: Den multiple regressionsmodel

22 Økonometri 1: Den multiple regressionsmodel
For få variable Bias Corr(x1,x2) positiv negativ β2>0 Positiv bias Negativ Bias β2<0 bias Økonometri 1: Den multiple regressionsmodel