Quantifizierung der Abhängigkeit von Cauchy-Zufallsvariablen

7

Gegeben zwei Cauchy-Zufallsvariablen $\theta_1 \sim \mathrm{Cauchy}(x_0^{(1)}, \gamma^{(1)})$ und $\theta_2 \sim \mathrm{Cauchy}(x_0^{(2)}, \gamma^{(2)})$ . Das ist nicht unabhängig. Die Abhängigkeitsstruktur von Zufallsvariablen kann häufig mit ihrer Kovarianz oder ihrem Korrelationskoeffizienten quantifiziert werden. Diese Cauchy-Zufallsvariablen haben jedoch keine Momente. Kovarianz und Korrelation existieren also nicht.

Gibt es andere Möglichkeiten, die Abhängigkeit der Zufallsvariablen darzustellen? Ist es möglich, die mit Monte Carlo zu schätzen?

— Jonas
quelle

3

— John Madden

9

Nur weil sie keine Kovarianz haben, heißt das nicht, dass das Grundlegende $x^t\Sigma^{-1} x$ Struktur, die normalerweise mit Kovarianzen verbunden ist, kann nicht verwendet werden. In der Tat ist die multivariate ( $k$ -dimensional) Cauchy kann geschrieben werden als:

f (x;; μ, Σ, k) = \frac{Γ (\frac{1 + k}{2})}{Γ (\frac{1}{2}) π^{\frac{k}{2}} {| Σ |}^{\frac{1}{2}} {[1 + (x - - μ)^{T.} Σ^{- - 1} (x - - μ)]]}^{\frac{1 + k}{2}}}

$f({\mathbf x}; {\mathbf\mu},{\mathbf\Sigma}, k)= \frac{\Gamma\left(\frac{1+k}{2}\right)}{\Gamma(\frac{1}{2})\pi^{\frac{k}{2}}\left|{\mathbf\Sigma}\right|^{\frac{1}{2}}\left[1+({\mathbf x}-{\mathbf\mu})^T{\mathbf\Sigma}^{-1}({\mathbf x}-{\mathbf\mu})\right]^{\frac{1+k}{2}}}$

was ich von der Wikipedia-Seite gehoben habe . Dies ist nur ein multivariater Student- $t$ Verteilung mit einem Freiheitsgrad.

Für die Entwicklung der Intuition würde ich nur die normalisierten nicht diagonalen Elemente von verwenden $\Sigma$ als ob sie Korrelationen wären, obwohl sie es nicht sind. Sie spiegeln die Stärke der linearen Beziehung zwischen den Variablen auf eine Weise wider, die der einer Korrelation sehr ähnlich ist. $\Sigma$ muss positiv definitiv symmetrisch sein; wenn $\Sigma$ ist diagonal, die Variablen sind unabhängig usw.

Die Maximum-Likelihood-Schätzung der Parameter kann unter Verwendung des EM-Algorithmus durchgeführt werden, der in diesem Fall leicht implementiert werden kann. Das Protokoll der Wahrscheinlichkeitsfunktion lautet:

L. (μ, Σ) = - - \frac{n}{2} | Σ | - - \frac{k + 1}{2} \sum_{ich = 1}^{n} Log (1 + s_{ich})

$\mathcal{L}(\mu, \Sigma) = -{n\over 2}|\Sigma| - {k+1 \over 2}\sum_{i=1}^n\log(1+s_i)$

wo $s_i = (x_i-\mu)^T\Sigma^{-1}(x_i-\mu)$ . Die Unterscheidung führt zu folgenden einfachen Ausdrücken:

μ = \sum w_{ich} x_{ich} /. \sum w_{ich}

$\mu = \sum w_ix_i/\sum w_i$

Σ = \frac{1}{n} \sum w_{ich} (x_{ich} - - μ) (x_{ich} - - μ)^{T.}

$\Sigma = {1 \over n}\sum w_i(x_i-\mu)(x_i-\mu)^T$

w_{ich} = (1 + k) /. (1 + s_{ich})

$w_i = (1+k)/(1+s_i)$

Der EM-Algorithmus durchläuft nur diese drei Ausdrücke und ersetzt die neuesten Schätzungen aller Parameter bei jedem Schritt.

Weitere Informationen hierzu finden Sie unter Schätzmethoden für die multivariate t-Verteilung , Nadarajah und Kotz, 2008.

— Jbowman
quelle

Das ist ein sehr guter Plan und eine sehr detaillierte Antwort. Eine weitere Frage könnte sein: Ist es möglich, eine gemeinsame Cauchy-Distribution wie Sie zu schreiben? Für Gaußsche lautet eine ähnliche Antwort ja. Aber auch für Gaußsche sind Korrelation und Abhängigkeit gleichwertig. Ist das auch bei Cauchy der Fall?

— Jonas

Ja, dies ist die Standardmethode zum Schreiben einer multivariaten Cauchy-Dichte. Für die MV Cauchy sind Pseudokorrelation und Abhängigkeit ebenfalls gleichwertig; Alle deine Intuitionen übertragen sich.

σ_{i j} = σ_{i} σ_{j}

$\sigma_{ij} = \sigma_i\sigma_j$ impliziert

x_{i}

$x_i$ immer

= x_{j}

$= x_j$ , etc.

— Jbowman

6

Während $\text{cov}(X,Y)$ existiert nicht, für ein Paar von Variablen mit Cauchy-Rändern, $\text{cov}(\Phi(X),\Phi(Y))$ existiert beispielsweise für begrenzte Funktionen $\Phi(\cdot)$ . Tatsächlich ist der Begriff der Kovarianzmatrix nicht gut geeignet, um gemeinsame Verteilungen in jeder Umgebung zu beschreiben, da er bei Transformationen nicht invariant ist.

Aus dem Konzept der Copulas entlehnt (was auch bei der Definition einer gemeinsamen Verteilung helfen kann¹ für $(X,Y)$ ) kann man sich wenden $X$ und $Y$ in Uniform $(0,1)$ variiert, indem sie ihre marginalen cdfs verwendet, $\Phi_X(X)\sim\mathcal{U}(0,1)$ und $\Phi_Y(Y)\sim\mathcal{U}(0,1)$ und betrachten Sie die Kovarianz oder Korrelation der resultierenden Variablen.

¹Zum Beispiel, wenn $X$ und $Y$ sind beide Standard Cauchys,

{Z.}_{X.} = Φ^{- - 1} ({\arg bräunen (X.) /. π + 1}} /. 2)

$Z_X=\Phi^{-1}(\{\arg\tan(X)/\pi+1\}/2)$ wird als Standard Normal verteilt, und die gemeinsame Verteilung von

(Z_{X}, Z_{Y})

$(Z_X,Z_Y)$ kann als gemeinsame Normal gewählt werden

({Z.}_{X.}, {Z.}_{Y.}) \sim {N.}_{2} (0_{2}, Σ)

$(Z_X,Z_Y) \sim \mathcal{N}_2(0_2,\Sigma)$ Dies ist eine Gaußsche Kopula .

— Xi'an
quelle

Vielen Dank für Ihre Antwort. Ich bin mir jedoch nicht ganz sicher, ob dies der richtige Weg ist. Mit der Cauchy-Verteilung abgetastete Werte sind möglicherweise sehr groß. Wenn wir sie so in einen Gaußschen Wert umwandeln, werden wir wahrscheinlich alle Werte in einer sehr kleinen Menge am Ende des Gaußschen Wertes platzieren. In diesem Fall können wir immer noch eine Kovarianz schätzen, aber ich denke, die Korrelation würde nahe bei 1 liegen.

— Jonas

Mein Punkt ist, dass die Korrelation ein lineares Maß für die Abhängigkeit in Abhängigkeit von der Parametrisierung der Verteilung ist. Sobald die beiden Cauchy-Variablen in Gauß-Werte umgewandelt wurden, kann ihre Korrelation zwischen -1 und 1 liegen. Überprüfen Sie das copulaSchlüsselwort auf Wikipedia.

— Xi'an