Kovarianz für drei Variablen

Ich versuche zu verstehen, wie die Kovarianzmatrix funktioniert. Nehmen wir also an, wir haben zwei Variablen: , wobei die Beziehung zwischen den Variablen angibt, dh wie viel eine hängt vom anderen ab. $X, Y$ $\text{Cov}(X,Y) = \mathbb{E}[(x -\mathbb{E}[X])(y-\mathbb{E}[Y])]$

Nun, drei Variablen Fall ist es für mich weniger klar. Eine intuitive Definition für die Kovarianzfunktion wäre , aber stattdessen schlägt die Literatur vor Verwenden einer Kovarianzmatrix, die als zwei variable Kovarianz für jedes Variablenpaar definiert ist. $\text{Cov}(X,Y,Z) = \mathbb{E}[(x -\mathbb{E}[X])(y-\mathbb{E}[Y])(z-\mathbb{E}[Z])]$

Enthält die Kovarianz also vollständige Informationen über variable Beziehungen? Wenn ja, in welcher Beziehung steht meine Definition von ? $\text{Cov}(X,Y,Z)$

correlation covariance moments

— Karolis
quelle

Ich denke, ich sehe, dass meine Definition einfach nicht funktioniert. Aber reicht die Kovarianzmatrix aus, um die Beziehung zwischen allen Variablen zu quantifizieren?

— Karolis

Die Kovarianzmatrix reicht aus, um die Kovarianz zwischen allen Variablen zu quantifizieren, jedoch nicht die "Beziehungen", da dies ein allgemeines Konzept ist (Variablen können auf viele verschiedene nichtlineare Arten in Beziehung gesetzt oder abhängig sein, die nicht durch Kovarianz erfasst werden). Eine Ausnahme wäre, wenn Sie die Variablen kennen, bei denen die Mehrfachvariablen normal sind.

— Zachary Blumenfeld

Danke @ZacharyBlumenfeld! Könnten Sie ein gutes Lehrbuch dazu empfehlen?

— Karolis

Was ist der Unterschied zwischen

und

im Term

? Ich weiß, was Sie mit

meinen - es ist eine Zufallsvariable - und auch mit

- es ist der erwartete Wert von

, eine reelle Zahl - aber was ist

? Wenn

eine andere reelle Zahl ist, dann ist

eine reelle Zahl - nichts Zufälliges - und Ihre Definition reduziert sich daher auf

x

$x$

X

$X$

x - E [X]

$x-E[X]$

X

$X$

E [X]

$E[X]$

X

$X$

x

$x$

x

$x$

x - E [X]

$x-E[X]$

weil der erwartete Wert einer reellen Zahl die reelle Zahl selbst ist.

cov (X, Y, Z) = E [(x - E [X]) (y - E [Y]) (z - E [Z])] = (x - E [X]) (y - E [Y]) (z - E [Z])

$\operatorname{cov}(X,Y,Z) = E[(x -E[X])(y-E[Y])(z-E[Z])] = (x -E[X])(y-E[Y])(z-E[Z])$

— Dilip Sarwate

@ZacharyBlumenfeld, Ihr Kommentar ist fast eine Antwort. Vielleicht sollten Sie es ein wenig erweitern (fügen Sie hinzu, dass

ein zentrales Kreuzmoment dritter Ordnung ist, was sonst) und als Antwort posten?

E [(x - E [X]) (y - E [Y]) (z - E [Z])]

$\mathbb{E}[(x -\mathbb{E}[X])(y-\mathbb{E}[Y])(z-\mathbb{E}[Z])]$

— Richard Hardy

Um Zacharys Kommentar zu erweitern, erfasst die Kovarianzmatrix nicht die "Beziehung" zwischen zwei Zufallsvariablen, da "Beziehung" ein zu weit gefasstes Konzept ist. Zum Beispiel möchten wir wahrscheinlich die Abhängigkeit zweier Variablen voneinander einbeziehen, um sie in ein beliebiges Maß ihrer "Beziehung" einzubeziehen. Wir wissen jedoch, dass $cov(X,Y)=0$ nicht bedeutet, dass sie unabhängig sind, wie dies beispielsweise bei zwei Zufallsvariablen X ~ U (-1,1) und Y = X ^ 2 (z Einen kurzen Beweis finden Sie unter: https://en.wikipedia.org/wiki/Covariance#Uncorrelatedness_and_independence ).

Wenn wir also glauben würden, dass die Kovarianz vollständige Informationen über variable Beziehungen enthält, würde eine Kovarianz von Null keine Abhängigkeit bedeuten. Dies ist, was Zachary meint, wenn er sagt, dass es nichtlineare Abhängigkeiten geben kann, die die Kovarianz nicht erfasst.

$X:=(X_{1},...,X_{n})'$ $N(\mu,\Sigma)$ $X_{1},...,X_{n}$ $\Sigma$

f (x_{1}, . . ., x_{n}) = \frac{1}{\sqrt{(2 π)^{n} | Σ |}} e x p (- \frac{1}{2} (x - μ)^{'} Σ^{- 1} (x - μ)) = Π_{i = 1}^{n} \frac{1}{\sqrt{2 π σ_{i i}}} e x p (- \frac{(x_{i} - μ_{i})^{2}}{2 σ_{i i}}) = f_{1} (x_{1}) . . . f_{n} (x_{n})

$\begin{equation} f(x_{1},...,x_{n}) = \dfrac{1}{ \sqrt{(2 \pi)^{n} | \Sigma |}} exp(- \dfrac{1}{2} (x - \mu)' \Sigma^{-1} (x - \mu))= \Pi^{n}_{i=1} \dfrac{1}{\sqrt{2 \pi \sigma_{ii}}} exp(- \dfrac{(x_{i}-\mu_{i})^{2}}{2 \sigma_{ii}})=f_{1}(x_{1})...f_{n}(x_{n})\end{equation}$

$X_{1}$ $X_{2}$ $X_{1}$ $X_{1}|X_{2} = x_{2}$

σ_{11} = σ_{11 | 2} = σ_{11} - σ_{12}^{2} σ_{22}^{- 1}

$\begin{equation} \sigma_{11}=\sigma_{11|2}=\sigma_{11}-\sigma^{2}_{12} \sigma^{-1}_{22} \end{equation}$

$\sigma_{12}=0$ $\Sigma$

(Quelle: Prof. Geert Dhaene's Advanced Econometrics Folien)

— hrrrrrr5602
quelle