Wie funktioniert die Formel zur Erzeugung korrelierter Zufallsvariablen?

19

Wenn wir 2 normale, nicht korrelierte Zufallsvariablen haben, können wir mit der Formel 2 korrelierte Zufallsvariablen erstellen $X_1, X_2$

$Y=\rho X_1+ \sqrt{1-\rho^2} X_2$

und dann wird eine Korrelation mit . $Y$ $\rho$ $X_1$

Kann jemand erklären, woher diese Formel kommt?

correlation normal-distribution covariance

— Lanza
quelle

1

Eine ausführliche Diskussion über dieses und verwandte Themen findet sich in meiner Antwort unter stats.stackexchange.com/a/71303 . Unter anderem ist es klar , dass (1) die Normalitätsannahme ist irrelevant und (2) müssen Sie zusätzliche Annahmen machen: die Varianzen von und muß , um die Korrelation gleich mit sein .

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X_{1}

$X_1$

ρ

$\rho$

— whuber

Sehr interessanter Link. Ich bin mir nicht sicher, ob ich verstehe, was du damit meinst, dass Normalität irrelevant ist. Wenn oder nicht normal ist und es schwieriger wird, die Dichte von durch den Kaiser-Dickman-Algorithmus zu steuern . Das ist der ganze Grund für Algorithmen spezialisiert nichtnormale korrelierten Daten zu erzeugen (zB Headrick, 2002; Ruscio & Kaczetow 2008; Vale & Maurelli, 1983) zum Beispiel Ihr Ziel vorstellen , ist zu generieren ~ normal, ~ Uniform mit = .5. Die Verwendung von ~ uniform führt zu einem , das nicht gleichmäßig ist ( schließlich eine lineare Kombination aus Normal und Uniform).

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X

$X$

Y

$Y$

ρ

$\rho$

X_{2}

$X_2$

Y

$Y$

Y

$Y$

— Anthony

@Anthony Die Frage fragt nur nach der Korrelation , die lediglich eine Funktion des ersten und des zweiten Moments ist. Die Antwort hängt nicht von anderen Eigenschaften der Verteilungen ab. Was Sie diskutieren, ist ein ganz anderes Thema.

— whuber

17

Angenommen, Sie möchten eine lineare Kombination von und so dass $X_1$ $X_2$

corr (α X_{1} + β X_{2}, X_{1}) = ρ

$\text{corr}(\alpha X_1 + \beta X_2, X_1) = \rho$

Beachten Sie , dass sich die Korrelation nicht ändert , wenn Sie sowohl als auch mit derselben (von Null verschiedenen) Konstante multiplizieren . Daher werden wir eine Bedingung hinzufügen, um die Varianz beizubehalten: $\alpha$ $\beta$ $\text{var}(\alpha X_1 + \beta X_2) = \text{var}(X_1)$

Dies ist äquivalent zu

ρ = \frac{cov (α X_{1} + β X_{2}, X_{1})}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = \frac{α \overset{= var (X_{1})}{\overset{⏞}{cov (X_{1}, X_{1})}} + \overset{= 0}{\overset{⏞}{β cov (X_{2}, X_{1})}}}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = α \sqrt{\frac{var (X_{1})}{α^{2} var (X_{1}) + β^{2} var (X_{2})}}

$\rho = \frac{\text{cov}(\alpha X_1 + \beta X_2, X_1)}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \frac{\alpha \overbrace{\text{cov}(X_1, X_1)}^{=\text{var}(X_1)} + \overbrace{\beta \text{cov}(X_2, X_1)}^{=0}}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \alpha \sqrt{\frac{\text{var}(X_1)}{\alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2)}}$

Angenommen, beide Zufallsvariablen haben dieselbe Varianz (dies ist eine entscheidende Annahme!) ( ) $\text{var}(X_1) = \text{var}(X_2)$

ρ \sqrt{α^{2} + β^{2}} = α

$\rho \sqrt{\alpha^2 + \beta^2} = \alpha$

Es gibt viele Lösungen für diese Gleichung, daher ist es an der Zeit, sich an die varianzerhaltende Bedingung zu erinnern:

var (X_{1}) = var (α X_{1} + β X_{2}) = α^{2} var (X_{1}) + β^{2} var (X_{2}) \Rightarrow α^{2} + β^{2} = 1

$\text{var}(X_1) = \text{var}(\alpha X_1 + \beta X_2) = \alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2) \Rightarrow \alpha^2 + \beta^2 = 1$

Und das führt uns zu

α = ρ β = \pm \sqrt{1 - ρ^{2}}

$\alpha = \rho \\ \beta = \pm \sqrt{1-\rho^2}$

UPD . Zur zweiten Frage: Ja, das nennt man Bleaching .

— Artem Sobolev
quelle

9

Die Gleichung ist eine vereinfachte bivariate Form der Cholesky-Zerlegung . Diese vereinfachte Gleichung wird manchmal als Kaiser-Dickman-Algorithmus bezeichnet (Kaiser & Dickman, 1962).

Beachten Sie, dass und dieselbe Varianz aufweisen müssen, damit dieser Algorithmus ordnungsgemäß funktioniert. Außerdem wird der Algorithmus normalerweise mit normalen Variablen verwendet. Wenn oder nicht normal sind, hat möglicherweise nicht die gleiche Verteilungsform wie . $X_1$ $X_2$ $X_1$ $X_2$ $Y$ $X_2$

Verweise:

Kaiser, HF & Dickman, K. (1962). Stichproben- und Populationsbewertungsmatrizen und Stichproben-Korrelationsmatrizen aus einer beliebigen Populationskorrelationsmatrix. Psychometrika, 27 (2), 179 & ndash; 182.

— Anthony
quelle

2

Ich nehme an, Sie brauchen keine standardisierten normalen Variablen, nur die gleiche Varianz sollte ausreichen.

— Artem Sobolev

2

Nein, die Verteilung von

ist nicht eine Mischung Verteilung wie Sie behaupten.

Y

$Y$

— Dilip Sarwate

Punkt genommen, @Dilip Sarwate. Wenn entweder

oder

normal ist, wird

zu einer linearen Kombination von zwei Variablen, die möglicherweise nicht zur gewünschten Verteilung führen. Dies ist der Grund für spezialisierte Algorithmen (anstelle von Kaiser-Dickman) für generierte nicht normale korrelierte Daten.

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

— Anthony

3

Korrelationskoeffizient ist der zwischen zwei Reihen , wenn sie als Vektoren behandelt werden (mit Datenpunkt ist Dimension eines Vektors). Die obige Formel erzeugt einfach eine Zerlegung eines Vektors in seine , ; -Komponenten (in Bezug auf ). wenn , dann $\cos$ $n^{th}$ $n^{th}$ $\cos\theta$ $sin\theta$ $X_1,X_2$
$\rho = cos \theta$ . $\sqrt{1-{\rho}^2}=\pm sin \theta$

Denn wenn nicht korreliert sind, ist der Winkel zwischen ihnen ein rechter Winkel (dh sie können als orthogonale, wenn auch nicht normalisierte Basisvektoren betrachtet werden). $X_1, X_2$

— Dmitry Rubanovich
quelle

2

Willkommen auf unserer Webseite! Ich glaube, Ihr Beitrag wird mehr Aufmerksamkeit erhalten, wenn Sie die mathematischen Ausdrücke mit

markieren

: Schließen Sie sie zwischen Dollarzeichen ein. Beim Bearbeiten steht Hilfe zur Verfügung.

T E X

$\TeX$

— Whuber