Lineare Kombination zweier abhängiger multivariater normaler Zufallsvariablen

Angenommen, wir haben zwei Vektoren von Zufallsvariablen, beide sind normal, dh $X \sim N(\mu_X, \Sigma_X)$ und $Y \sim N(\mu_Y, \Sigma_Y)$ . Wir interessieren uns für die Verteilung ihrer Linearkombination $Z = A X + B Y + C$ , wobei $A$ und $B$ Matrizen sind, ein Vektor ist. Wenn und unabhängig sind, $C$ $X$ $Y$ $Z \sim N(A \mu_X + B \mu_Y + C, A \Sigma_X A^T + B \Sigma_Y B^T)$ . Die Frage ist im abhängigen Fall, vorausgesetzt, wir kennen die Korrelation eines beliebigen Paares . Vielen Dank. $(X_i, Y_i)$

Beste Grüße, Ivan

probability normal-distribution multinomial

— Ivan
quelle

Antworten:

In diesem Fall müssen Sie schreiben (mit hoffentlich klaren Notationen)

(\begin{matrix} X \\ Y \end{matrix}) \sim N [(\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}), Σ_{X, Y}]

$\left(\begin{matrix}X\\Y \end{matrix}\right) \sim \mathcal{N}\left[ \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right), \Sigma_{X,Y} \right]$ ( editiert: Annahme der gemeinsamen Normalität von

(X, Y)

$(X,Y)$ ) Dann

A X + B Y = (\begin{matrix} A & B \end{matrix}) (\begin{matrix} X \\ Y \end{matrix})

$AX+BY=\left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}X\\Y \end{matrix}\right)$ und

A X + B Y + C \sim N [(\begin{matrix} A & B \end{matrix}) (\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}) + C, (\begin{matrix} A & B \end{matrix}) Σ_{X, Y} (\begin{matrix} A^{T} \\ B^{T} \end{matrix})]

$AX+BY+C \sim \mathcal{N}\left[ \left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right) + C, \left(\begin{matrix}A & B \end{matrix}\right)\Sigma_{X,Y} \left(\begin{matrix}A^T \\ B^T \end{matrix}\right)\right]$ dh

A X + B Y + C \sim N [A μ_{X} + B μ_{Y} + C, A Σ_{X X} A^{T} + B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} + B Σ_{Y Y} B^{T}]

$AX+BY+C \sim \mathcal{N}\left[A\mu_X + B\mu_Y +C, A\Sigma_{XX}A^T+B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T+B\Sigma_{YY}B^T \right]$

— Xi'an
quelle

Falls es übersehen wird, beachten Sie bitte, dass der Kommentarthread zu einer anderen Antwort angibt, dass (a) diese Kovarianzberechnungen in Ordnung sind (wobei zu verstehen ist, dass sie eine natürliche, aber nicht angegebene Blockmatrixnotation beinhalten), aber (b) wir können nicht gültig schließen, dass die linearen Kombinationen normal sind verteilt, bis wir eine zusätzliche Annahme machen; nämlich, dass

und

eine gemeinsame multivariate Normalverteilung haben.

X

$X$

Y

$Y$

— Whuber

Können Sie erklären, wie Sie in der letzten Zeile von

? Ich hätte gedacht, dass

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T$

2 A Σ_{X Y} B^{T}

$2A\Sigma_{XY}B^T$

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} = (A Σ_{X Y} B^{T})^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T = (A\Sigma_{XY}B^T)^T + A\Sigma_{XY}B^T$ und das Ergebnis vereinfacht sich nicht weiter. Hier

ist nicht eine symmetrische Matrix seit seinem

-te Element

, während sein

-ten Element

, und ist kein Grund, warum diese Kovarianzen gleich sein müssen.

Σ_{X Y}

$\Sigma_{XY}$

(i, j)

$(i,j)$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

(j, i)

$(j,i)$

cov (X_{j}, Y_{i})

$\text{cov}(X_j,Y_i)$

— Dilip Sarwate

@DilipSarwate: (+1) Sie haben Recht, im Allgemeinen gibt es keinen Grund, warum diese beiden Begriffe gleich sind.

— Xi'an,

Für Ihre Frage gibt es keine eindeutige Antwort, es sei denn, Sie gehen davon aus, dass und gemeinsam normalverteilt sind und der Kovarianzblock oben rechts . Ich denke, du meinst das, weil du sagst, du hast jede Kovarianz zwischen X und Y. In diesem Fall können wir schreiben was auch multivariat normal ist. dann ist in Form von als: $X$ $Y$ $\Sigma_{XY}$ $W=(X^T,Y^T)^T$ $Z$ $W$

Z = (A, B) W + C

$Z=(A,B)W+C$

Dann verwenden Sie Ihre übliche Formel für die lineare Kombination. Man beachte , dass der Mittelwert ist unverändert , aber die Kovarianzmatrix hat zwei zusätzliche Begriffe hinzugefügt $A\Sigma_{XY}B^T+B\Sigma_{XY}^TA^T$

— Wahrscheinlichkeitslogik
quelle

Vielen Dank, dass Sie auf dieses Problem hingewiesen haben. Tatsächlich habe ich nicht einmal darüber nachgedacht, aber es scheint, dass die Variablen in meinem Fall tatsächlich als gemeinsam normalverteilt angesehen werden können, auch wenn ihre Komponenten korreliert sind.

— Ivan

X

$X$

Y

$Y$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

i, j

$i, j$ $W = (X^T,Y^T)^T$ . Zwei beliebige Zufallsvariablen mit endlichen Varianzen haben eine Kovarianz. Kovarianz ist nicht nur für normale oder gemeinsam normale Zufallsvariablen definiert.

— Dilip Sarwate

In my case, X and Y are jointly normal, I will try to explain why, please correct me if I am wrong. Suppose there is a set of independent univariate normal r.v.'s. Each element of X and Y is an arbitrary linear combination of these univariate variables from the set. Therefore, since the initial variables are independent and only linear transformations are involved, the resulting vectors X, Y, and Z are all multivariate normal r.v.'s. It follows the definition of a multivariate normal r.v., where

a^{T} X

$a^T X$ should be a univariate normal r.v. for any vector

a

$a$ . Does it make sense?

— Ivan

@Ivan Your explanation makes sense but the complaint is about the statement "Suppose we have two vectors of random variables, both are normal, i.e.,

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$ and

Y \sim N (μ_{Y}, Σ_{Y})

$Y\sim N(\mu_Y,\Sigma_Y)$ " which does not mean that

X

$X$ and

Y

$Y$ are jointly normal. Nor does saying that "we know the correlation of any pair

(X_{i}, Y_{i})

$(X_i,Y_i)$ " mean that

X_{i}

$X_i$ and

Y_{i}

$Y_i$ are jointly normal even though, as you correctly state,

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$ implies that

X_{i}

$X_i$ is normal (and similarly for

Y_{i}

$Y_i$ .) Univariate normality does not imply joint normality. See reference below.

— Dilip Sarwate

@Ivan See the discussion following this question

— Dilip Sarwate