Den multiple regressionsmodel 21. september 2005 Økonometri 1 Den multiple regressionsmodel 21. september 2005 Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel Dagens program Emnet for denne forelæsning er den multiple regressionsmodel (Wooldridge kap 3.1-3.3+appendix E.1-E.2) Definition og motivation Fortolkning af parametrene i den multiple regressionsmodel Sammenligning af den simple og multiple regressionsmodel Regression uden konstantled Middelrette OLS estimatorer For mange/for få variable Økonometri 1: Den multiple regressionsmodel

Definition og motivation Den multiple regressionsmodel er en udvidelse af den simple regressionsmodel Definition: k forklarende variable: x1,…, xk Et konstantled k+1 (ukendte) parametre: u fejlled Antagelsen E(u| x1,…, xk)=0 Økonometri 1: Den multiple regressionsmodel

Definition og motivation Fordelen ved den multiple regressionsmodel er: Man kan eksplicit kontrollere for mange flere faktorer Det betyder, at disse faktorer ikke er indeholdt i u Det er forhåbentlig lettere at lave ceteris paribus fortolkninger Man kan modellere mere generelle funktionelle former F.eks. modeller som Økonometri 1: Den multiple regressionsmodel

Den multiple regressionsmodel på matrixform For n observationer kan vi opskrive y og u er en nx1 matrix (vektor) X er en nx(k+1) matrix Parameteren  er en (k+1)x1 matrix (vektor) Økonometri 1: Den multiple regressionsmodel

Regressionsmodel på matrixform Den multiple regressionsmodel kan skrives som: OLS estimatoren kan udregnes som i den simple regressionsmodel ved brug af moment metoden Moment betingelsen: Økonometri 1: Den multiple regressionsmodel

Regressionsmodel på matrix form OLS estimatoren Hvis (X’X) er invertibel (X har fuld rang) kan OLS estimatoren udregnes til OLS estimatoren kan også udledes ved at minimere Økonometri 1: Den multiple regressionsmodel

Fortolkning af OLS regression Fortolkning af OLS parametrene Antag følgende model: Den forudsagte værdi af y er givet ved Ændringerne i forudsagte værdi af y, Økonometri 1: Den multiple regressionsmodel

Fortolkning .. (fortsat) Fortolkningen af estimatet for l: Ændringen i y når alle øvrige forklarende variable holdes konstante: Den multiple regressionsmodel giver mulighed for at lave ceteris paribus fortolkninger, selvom data ikke er indsamlet så enkelte variable kan holdes konstante Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel Eksempel: Timeløn Vi benytter nu data fra 1994 i stedet for 1980 Til denne analyse af timeløn introduceres en ny variabel: Arbejdsmarkedserfaring (baseret på ATP indbetalinger) målt i år Modellen som estimeres er givet ved: Økonometri 1: Den multiple regressionsmodel

Fortolkning .. (fortsat) OLS estimatoren er besværlig at opskrive (med mindre man anvender matrixformen) I tilfældet med to forklarende variable kan man dog få et udtryk for OLS estimaterne: Model Estimatet for 1 kan skrives som Hvor r1 er residualerne fra følgende OLS regression Økonometri 1: Den multiple regressionsmodel

Fortolkning .. (fortsat) Residualerne r1 kan altså fortolkes som den del af x1 som er ukorreleret med x2 r1 er effekten af x1 efter at have ”kontrolleret” for x2 Estimatet af 1 kan opnås ved følgende procedure: Regresser x1 på x2 og udregn residualerne r1 Regresser y på residualerne r1 Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel OLS Residualer For OLS residualer fra den multiple regressionsmodel (med et konstantled) gælder følgende: Gennemsnittet af residualerne er lig 0: Den empiriske kovarians mellem residualer og de forklarende variable er lig 0: Punktet er altid på på OLS regressionslinien Økonometri 1: Den multiple regressionsmodel

OLS residualer (fortsat) Goodness of fit: Læs selv Dette er helt analogt til den simple lineære regressionsmodel Økonometri 1: Den multiple regressionsmodel

Regressionsmodel uden konstantled Regressionsmodel uden konstantled estimeret med OLS I denne model gælder: OLS residualerne har ikke gennemsnit lig 0 R2 er re-defineret til og kan blive negativet Hvis populations modellen indeholder et konstantled, vil OLS estimaterne af 1,…k være biased (ikke middelrette) Økonometri 1: Den multiple regressionsmodel

Middelret OLS estimator Antagelser MLR 1 (lineær i parametrene): Den afhængige variabel y kan beskrives ved følgende model: MLR 2 (tilfældig stikprøve): Vi har en tilfældig stikprøve (yi,xi1, xi2,.., xik) i=1,..,n fra populationen (se definition i appendix c.1) Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel Middelret .. (fortsat) MLR 3 (betinget middelværdi af fejlled): Grunde til at MLR 3 ikke er opfyldt: Forkert funktionel form (mere om dette i kap. 9) Udeladte variable, som er korreleret med en af de forklarende variable Målefejl i de forklarende variable (mere om dette i kap. 9) Hvis MLR 3 er opfyldt kaldes de forklarende variable for eksogene forklarende variable Hvis xj er korreleret med u kaldes xj for endogen forklarende variable Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel Middelret .. (fortsat) MLR 4 (ingen perfekt multikollinaritet) I stikprøven (og i populationen) kan ingen af de forklarende variable skrives som en lineær funktion af de øvrige De forklarende variable må godt være korreleret f.eks.: kan både x og x2 være forklarende variable Eksempler på perfekt multikollinaritet: Alder og fødselsår (i tværsnitsdata) Antallet af observationer er lille (n<k+1) Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel Middelret .. (fortsat) Teorem 3.1 Under antagelse MLR 1-MLR 4 gælder: Bevis laves som i appendix E.2 (tavlegennemgang) Økonometri 1: Den multiple regressionsmodel

For mange variable i modellen Irrelevante variable i regressionsmodellen: Eksempel: Den sande model (som opfylder MLR 1-MLR4) Regressionsmodellen som estimeres med OLS: Har det betydning for estimaterne af β0, β1 og β2? Estimaterne er stadig middelrette: Men inklusion af irrelevante variable påvirker variansen af estimaterne Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel For få variable Udeladte relevante variable OLS estimaterne er biased (ikke middelrette) Eksempel: Den sande model (som opfylder MLR 1- 4) Regressionsmodellen som estimeres ved OLS Middelværdien af OLS estimatet Økonometri 1: Den multiple regressionsmodel

Økonometri 1: Den multiple regressionsmodel For få variable Bias Corr(x1,x2) positiv negativ β2>0 Positiv bias Negativ Bias β2<0 bias Økonometri 1: Den multiple regressionsmodel