OLS: in der 1. Gleichung spannt Standardfehler in der 2. Gleichung vor?

Angenommen, ${X_{it}},{Y_{it}}$ sind Zeitreihen mit $X_{it}\sim N(0.1,1)$ , ( $\sigma^2(Y_{it}) = 1$ und $mean(Y_{it})$ ähnelt dem für $X_{it}$ , ändert sich jedoch, wenn der Dummy = 1) ist. und $t \in \{1,2,...,200\}$ , $i \in \{1,2,...,N\}$ . In einer realen Welt sind dies periodische Börsenrenditen gegenüber $N$ Unternehmen (aber Sie können dies ignorieren). Es gibt einen Dummy $D_t$ , der gleich Eins über $t \in \{150,151,...,200\}$ und ansonsten gleich Null ist. Das mit OLS zu schätzende Zeitreihenmodell $\forall i$ lautet:

$(1) Y_{it} = \alpha_i + \beta_i X_{it} + \gamma_i D_{t} + \epsilon_{it}$

Dieses Modell entspricht im Allgemeinen den Gauß-Markov-Annahmen für jedes $i$ . Wir haben jedoch $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ für alle $i$ und $j$ .

Der nächste Schritt besteht darin, einen Vektor von Gammas unter Verwendung der $N$ Schätzungen von Modell zu konstruieren $(1)$ . Nennen Sie diesen Vektor $\bf{\hat{\gamma}}$ . Wir verwenden dies dann im Querschnittsmodell:

$(2) \hat{\gamma}_i = a + b Z_i + u_i$

Dabei ist $Z_i$ eine Querschnittsvariable, die keine Verstöße gegen OLS-Annahmen verursacht und für die Erklärung von relevant ist $\hat{\gamma}_i$ .

Die Behauptung in der angewandten ökonometrischen Literatur ist, dass $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ in Modell $(1)$ zu (i) führt. Kein Problem für die OLS-Koeffizientenschätzungen in $(2)$ , aber (ii) voreingenommene Standardfehler in $(2)$ .

Kann jemand bitte Ideen posten, warum dies der Fall ist?
Ich verstehe nicht, was $\epsilon_{it}^T$ im Ausdruck $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ . Natürlich ist $\epsilon_{it}$ ein Skalar und Sie können keinen Skalar transponieren. Dies ist HIER zu sehen , wo sie diese Methodik anwenden.

Sie sagen, dass Sie nicht verstehen, warum Varianzschätzungen in Gleichung 2 verzerrt sind, und dann sagen Sie, dass wir Ihre Schätzung, die zufällig Gleichung 2 ist, ignorieren können ? Ich glaube, ich verstehe, was Sie meinen, und könnte eine spekulative Antwort darauf geben, aber es ist besser für Sie, Ihre Frage zu präzisieren.

γ

$\gamma$

— JDav

In Ihrem Setup kann nicht stationär sein, da sein Mittelwert von abhängt .

Y_{i t}

$Y_{it}$

t

$t$

— mpiktas

Es gibt drei Versionen der Erwartung (eine im Titel, eine im Text und eine dritte in den Kommentaren). Alle von ihnen enthalten eine mysteriöse Transponierung, obwohl in allen Fällen nur Skalare vorhanden sind. Haben Sie etwas dagegen, Ihren Beitrag zu bearbeiten, um dies zu klären?

— Kardinal

@mpiktas Richtige Beobachtung, hat nach einen anderen Mittelwert (gegeben ). Vielen Dank.

Y_{i t}

$Y_{it}$

t = 150

$t=150$

γ_{i} \neq 0

$\gamma_i \not= 0$

Es wurden einige gute Antworten geliefert - ich möchte nur hinzufügen, dass dies als Zufallskoeffizientenmodell geschätzt werden muss (auch bekannt als Mehrebenenmodell für Soziologen und Psychologen, auch bekannt als gemischtes Modell für Biostatistiker). Wenn Ökonomen dies nicht wissen und es mit einem zweistufigen Verfahren abschätzen, ist das einfach zu schade für sie (und ich warte immer noch darauf, dass Fama-Macbeth-Standardfehler absterben, was sie anscheinend einfach nicht wollen).

— StasK

Antworten:

Um sicherzugehen, dass Sie auf die Details eingehen müssen, müssen Sie die wahre Varianz-Kovarianzmatrix mit der Matrix vergleichen, die Sie in der zweiten Phase erhalten.

Der Wahre :

Dies kann erhalten werden, indem Gleichung 2 in Gleichung 1 ersetzt wird, gepooltes OLS folgt und daraus die wahre Varianz-Kovarianzmatrix : $\hat a , \hat b$

$Y_{it} = \alpha_i + \beta_i X_{it} + aD_t + bD_tZ_{i} +D_t u_{i} + \epsilon_{it}$

Die Verwendung der Matrixnotation zum Aufteilen der Gleichung in Parameter und andere führt zu: $\gamma$

$Y = X\theta + Z\gamma + \varepsilon$

wo wir an interessiert sind , , Z ist ein zweispaltiger Vektor (eine ähnliche Struktur definiert X, aber dies ist nicht von Interesse) und wobei hat Die vollständige Struktur der Kovarianzen zwischen Unternehmen ist daher nicht diagonal ( ) wie in den GAUSS-MARKOV-Annahmen. Mit Frish-Waugh können wir ols ausdrücken als: $V(\hat \gamma)$ $\gamma=[a \; b]$ $Z=[D_t \; D_tZ_i]_{[i=1,..,N;t=1,...,T]}$ $V(\varepsilon) =\Sigma$ $\sigma^2I_{NT}$ $\gamma$

$\hat \gamma = (Z'M_{X}Z)^{-1}Z'M_{X}Y$ wobei $M_X= I-X(X'X)^{-1}X'$

was die folgende wahre Varianz impliziert:

$V(\hat \gamma) = H\Sigma H'$ wobei $H = (Z'M_{X}Z)^{-1}Z'M_{X}$

Der andere

Unter der Annahme nicht korrelierter Unternehmen (und Zeiträume, aber dies ist nicht das Problem) hat eine einfachere diagonale Struktur . Dies bedeutet, dass Dreiecksterme 0 sind. Unter einer noch einfacheren Spezifikation (die standardmäßig von einer ökonometrischen und statistischen Software für OLS geschätzt wird) folgt GAUSS-Markov-Annahmen, was bedeutet, dass sogar die diagonalen Terme gleich sind, also wird auf herabgestuft $\Sigma$ $\Delta$ $\Delta$ $\Sigma$ $\Sigma$ $\sigma^2I$

Dies impliziert, dass eine Nichtberücksichtigung der Korrelation zwischen Unternehmen zu als: $V(\hat\gamma)$

$V(\hat \gamma) = H\Delta H'$ oder $V(\hat \gamma) = H\sigma^2I H' \equiv \sigma^2(Z'M_xZ)^{-1}$

die, wie man sehen kann, nicht gleich der wahren sind.

— JDav
quelle

Mit verschiedenen Worten .. Ich gebe im Grunde die gleiche Antwort @mpiktas gab

— JDav

(1) Wirklich fantastisch. (2) Scheint, als hätten Sie ignoriert, als Sie das Modell in Matrixform ausgedrückt haben? Dies sollte jedoch nichts an dem ändern, was Sie getan haben. (3) Würden Sie wissen, warum Portfolio OLS korrekte SEs liefert? (Siehe das von mir verlinkte Papier von 1986). Kümmern Sie sich nicht um Antwort (3), wenn Sie dieses Problem nicht gerne herausfinden würden.

D_{i} u_{i}

$D_i u_i$

(2) Ich habe nicht alle Definitionen angegeben, um einige für die Intuition zuzulassen und Kronecker-Produkte zu vermeiden ... auf diese Weise geht die Demo "schneller". Sie können jedoch daraus schließen, dass der neue Zufallsbegriff Wenn also Unternehmen mit korreliert wurden, führt dies dazu, dass der neue Zufallsbegriff mit seinem korreliert wird auch Unternehmensdimension. (3) hat nichts von einem Portfolio-OLS gehört, aber ich denke, es ist nur ein anderer Name für etwas, das bereits in der Standardökonometrie existiert, um mit vollständigen Var-Matrizen wie WLS oder Robust OLS usw. zu

ε_{i t} = D_{t} u_{i} + ϵ_{i t}

$\varepsilon_{it} = D_tu_i + \epsilon_{it}$

u_{i}

$u_i$

ε_{i t}

$\varepsilon_{it}$

— löschen

(3) Eine gute Schätzung impliziert eine gute Schätzung. Das Portfolio-OLS schätzt irgendwie die vollständige Struktur und nicht nur Varianzen ohne Kovarianzen: oder eine einzelne Varianz:

Σ

$\Sigma$

Σ

$\Sigma$

Δ

$\Delta$

σ^{2}

$\sigma^2$

— JDav

Ich denke, die Notation ist ungenau. Er verwendet Skalare, bei denen Vektoren benötigt werden, um auf die Tatsache hinzuweisen, dass die Kovarianzen zwischen Unternehmen nicht Null sind. Seine Notation impliziert also ist ein Vektor mit N Zeilen. Eine andere Interpretation ist , dass er beziehe Element . In beiden Fällen meint er dasselbe, aber da es sich nicht um ein quantitatives Journal handelt, kommt es zu Unklarheiten in der mathematischen Notation ...

ϵ_{i t} = [ϵ_{i t}]_{i = 1, . . ., N}

$\epsilon_{it} = [\epsilon_{it}]_{i=1,...,N}$

i j

$ij$

ϵ_{. t}^{T} ϵ_{. t}

$\epsilon_{.t}^T\epsilon_{.t}$

— JDav

Ich stelle eine weitere Antwort mit mehr Details auf.

Im standardmäßigen linearen Regressionsmodell (in Matrixform):

Y = X β + ε

$Y=X\beta+\varepsilon$

Die OLS-Schätzung lautet wie folgt

\hat{β} = (X^{T} X)^{- 1} X^{T} Y .

$\hat\beta=(X^TX)^{-1}X^TY.$

Seine Varianz ist dann

V a r (\hat{β}) = (X^{T} X)^{- 1} X^{T} V a r (Y) X (X^{T} X)^{- 1} .

$Var(\hat\beta)=(X^TX)^{-1}X^TVar(Y)X(X^TX)^{-1}.$

Die übliche Annahme für eine Regression ist die folgende

V a r (Y) = σ^{2} I,

$Var(Y)=\sigma^2I,$

wo die Identitätsmatrix . Dann $I$

V a r (\hat{β}) = σ^{2} (X^{T} X)^{- 1} .

$Var(\hat\beta)=\sigma^2(X^TX)^{-1}.$

In Ihrem Fall haben Sie jetzt zwei Modelle:

Y_{i} = M_{i} δ_{i} + ϵ_{i}

$Y_{i}=M_i\delta_i+\epsilon_i$

und

Γ = L c + u,

$\Gamma=Lc+u,$

$Y_i^T=(Y_{i1},...,Y_{iT})$ ,
$M_i=[1,X_i,D]$ , mit , $X_i^T=(X_{i1},...,X_{iT})$ $D^T=(D_1,...,D_T)$
$\delta_i^T=(\alpha_i,\beta_i,\gamma_i)$
$\epsilon_i^T=(\epsilon_{i1},...,\epsilon_{iT})$
$\Gamma^T=(\gamma_1,...,\gamma_n)$
$L=[1,Z]$ , mit $Z^T=(Z_1,...,Z_n)$
$c^T=(a,b)$
$u^T=(u_1,...,u_N)$ .

Beachten Sie, dass Sie das zweite Modell für die Schätzungen von angeben, was nicht üblich ist. Daher wiederhole ich es in üblicher Form für das "wahre" . $\gamma$ $\gamma$

Schreiben wir die Kovarianzmatrix für OLS-Schätzungen der Koeffizienten : $c$

V a r (\hat{c}) = (L^{T} L)^{- 1} L^{T} V a r (Γ) L (L^{T} L)^{- 1}

$Var(\hat{c})=(L^TL)^{-1}L^TVar(\Gamma)L(L^TL)^{-1}$

Das Problem ist, dass wir nicht beobachten . Wir beobachten die Schätzungen . ist Teil des Vektors $\Gamma$ $\hat\Gamma$ $\hat\gamma_i$

{\hat{δ}}_{i} = δ_{i} + (M_{i}^{T} M_{i})^{- 1} M_{i}^{T} ϵ_{i} .

$\hat\delta_i=\delta_i+(M_i^TM_i)^{-1}M_i^T\epsilon_i.$

Angenommen, ist zufällig und unabhängig von und . Dies gilt sicherlich für sodass wir nichts verlieren, wenn wir dies für andere Elemente von . $\delta_i$ $\epsilon_i$ $M_i$ $\gamma_i$ $\delta_i$

Lassen Sie uns alle übereinander stapeln : $\hat\delta_i$

{\hat{δ}}^{T} = [δ_{1}^{T}, . . ., δ_{N}^{T}]

$\hat\delta^T=[\delta_1^T,...,\delta_N^T]$

und erforschen Sie die Varianz von : $\hat\delta$

V a r (\hat{δ}) = [\begin{matrix} V a r ({\hat{δ}}_{1}) & c o v ({\hat{δ}}_{1}, {\hat{δ}}_{2}) & \dots & c o v ({\hat{δ}}_{1}, {\hat{δ}}_{N}) \\ \dots & \dots & \dots & \dots \\ c o v ({\hat{δ}}_{n}, {\hat{δ}}_{1}) & c o v ({\hat{δ}}_{n}, δ_{2}) & \dots & V a r ({\hat{δ}}_{N}) \end{matrix}]

$Var(\hat\delta)=\begin{bmatrix} Var(\hat\delta_1) & cov(\hat\delta_1,\hat\delta_2) & \dots & cov(\hat\delta_1,\hat\delta_N)\\ \dots & \dots & \dots & \dots\\ cov(\hat\delta_n,\hat\delta_1) & cov(\hat\delta_n,\delta_2) & \dots & Var(\hat\delta_N) \end{bmatrix}$

Angenommen, und . Für wir $Var(\epsilon_i)=\sigma^2_\epsilon I$ $E\epsilon_i\epsilon_j^T=0$ $i\neq j$

\begin{aligned} c o v ({\hat{δ}}_{i}, {\hat{δ}}_{j}) & = c o v (δ_{i}, δ_{j}) + c o v ((M_{i}^{T} M_{i})^{- 1} M_{i}^{T} ϵ_{i}, (M_{j}^{T} M_{j})^{- 1} M_{j}^{T} ϵ_{j}) \\ = (M_{i}^{T} M_{i})^{- 1} M_{i}^{T} E (ϵ_{i} ϵ_{j}^{T}) M_{j} (M_{j}^{T} M_{j})^{- 1} \\ = 0 \end{aligned}

$\begin{align} cov(\hat\delta_i,\hat\delta_j)&=cov(\delta_i,\delta_j)+cov((M_i^TM_i)^{-1}M_i^T\epsilon_i,(M_j^TM_j)^{-1}M_j^T\epsilon_j)\\ &=(M_i^TM_i)^{-1}M_i^TE(\epsilon_i\epsilon_j^T)M_j(M_j^TM_j)^{-1}\\ &=0 \end{align}$

Für diagonale Elemente haben wir

V a r ({\hat{δ}}_{i}) = V a r (δ_{i}) + σ_{ϵ}^{2} (M_{i}^{T} M_{i})^{- 1}

$Var(\hat\delta_i)=Var(\delta_i)+\sigma_\epsilon^2(M_i^TM_i)^{-1}$

Kehren wir zur Varianz von . Da wir anstelle von die Varianz wie folgt $\hat c$ $\hat\Gamma$ $\Gamma$

V a r (\hat{c}) = (L^{T} L)^{- 1} L^{T} V a r (\hat{Γ}) L (L^{T} L)^{- 1},

$Var(\hat{c})=(L^TL)^{-1}L^TVar(\hat\Gamma)L(L^TL)^{-1},$

Wir können aus extrahieren, indem wir geeignete Elemente auswählen: $Var(\hat\Gamma)$ $Var(\hat\delta)$

V a r (\hat{Γ}) = V a r (Γ) + d i a g (g_{1}, . . ., g_{n})

$Var(\hat\Gamma)=Var(\Gamma)+diag(g_1,...,g_n)$

Dabei ist das Element von , das dem . Jedes unterscheidet sich von da sie unterschiedlichen und denen nicht angenommen wird, dass sie gleich sind. $g_i$ $\sigma_\epsilon^2(M_i^TM_i)^{-1}$ $Var(\hat\gamma_i)$ $g_i$ $g_j$ $X_{it}$ $X_{jt}$

Wir erhalten also das überraschende Ergebnis, dass algebraisch, selbst wenn wir alle notwendigen Eigenschaften annehmen, die resultierende Kovarianzmatrix zumindest algebraisch nicht der üblichen OLS-Kovarianzmatrix entspricht, da wir dafür benötigen, dass konstant ist mal identitätsmatrix was es eindeutig nicht ist. $Var(\hat\Gamma)$

Alle obigen Formeln wurden unter der Annahme abgeleitet, dass konstant ist, daher sind sie von abhängig . Dies bedeutet, dass wir tatsächlich berechnet haben . Durch zusätzliche Annahmen zu könnte gezeigt werden, dass die bedingungslose Varianz in Ordnung ist. $X_{ij}$ $X_{ij}$ $Var(\hat\Gamma|X)$ $X_{ij}$

Die auf aufgestellte Unabhängigkeitsannahme kann auch auf Unkorrelation gelockert werden. $\epsilon_i$

Es wäre auch möglich, eine Simulationsstudie zu verwenden, um zu sehen, wie sich die Kovarianzmatrix unterscheidet, wenn wir anstelle von . $\hat\Gamma$ $\Gamma$

— mpiktas
quelle

Ich denke, das Problem liegt in der Definition des zweiten Modells. Ich denke, das wird angenommen

γ_{i} = a + b Z_{i} + u_{i}

$\gamma_i=a+bZ_i+u_i$

mit der üblichen Annahme, dass

c o v (γ_{i}, γ_{j} | Z_{1}, . . ., Z_{N}) = 0,

$cov(\gamma_i,\gamma_j|Z_1,...,Z_N)=0,$

dh dass die nicht korreliert sind, wenn wir für . Wenn Sie nun anstelle von , müssen Sie überprüfen, ob die Annahme zutrifft, dh ob $\gamma_i$ $Z_i$ $\hat{\gamma}$ $\gamma$

c o v (\hat{γ_{i}}, {\hat{γ}}_{j} | Z_{i}) = 0.

$cov(\hat{\gamma_i},\hat{\gamma}_j|Z_i)=0.$

Jetzt

{\hat{γ}}_{i} = γ_{i} + L (ϵ_{i t}),

$\hat{\gamma}_i=\gamma_i+L(\epsilon_{it}),$

wobei eine lineare Funktion ist. Es ist sicher anzunehmen, dass unabhängig von , aber wenn , gilt die notwendige Annahme nicht. $L$ $\epsilon_{it}$ $Z_i$ $E\epsilon_{it}\epsilon_{jt}\neq0$

Da die Unkorrelationsannahme für die Berechnung der üblichen OLS-Statistiken von zentraler Bedeutung ist, gibt dies den Grund an, warum die Standardfehler verzerrt sind.

Dies war eine grobe Darstellung, aber ich denke, die Idee sollte funktionieren, wenn Sie sich mit den Details der OLS-Maschinen befassen würden.

— mpiktas
quelle