Kombination von zwei Kovarianzmatrizen

Ich berechne die Kovarianz einer Verteilung parallel und muss die verteilten Ergebnisse zu einem singulären Gaußschen kombinieren. Wie kombiniere ich die beiden?

Die lineare Interpolation zwischen den beiden funktioniert fast, wenn sie ähnlich verteilt und dimensioniert sind.

Wikipedia bietet unten ein Forum zur Kombination, aber es scheint nicht richtig zu sein. Zwei identisch verteilte Verteilungen sollten dieselbe Kovarianz haben, aber die Formel am Ende der Seite verdoppelt die Kovarianz.

Gibt es eine Möglichkeit, zwei Matrizen zu kombinieren?

covariance moments

— Matt Kemp
quelle

Die Wikipedia-Formel beantwortet Ihre Frage, Matt: Möglicherweise haben Sie nicht bemerkt, dass es sich um eine Teilformel handelt, bei der Sie anschließend durch die Stichprobengröße dividieren müssen.

— whuber

Ich habe das jetzt mit Ihrer Hilfe herausgefunden - wenn Sie dies in eine Antwort einfügen, werde ich es als beantwortet markieren.

— Matt Kemp

Diese Frage taucht häufig in verschiedenen Formen auf. Was ihnen gemeinsam ist, ist

Wie kann ich momentbasierte Statistiken kombinieren, die aus nicht zusammenhängenden Teilmengen meiner Daten berechnet wurden?

Die einfachste Anwendung betrifft Daten, die in zwei Gruppen aufgeteilt wurden. Sie kennen die Gruppengrößen und die Gruppenmittelwerte. Was ist allein in Bezug auf diese vier Größen der Gesamtmittelwert der Daten?

Andere Anwendungen verallgemeinern Mittelwerte auf Varianzen, Standardabweichungen, Kovarianzmatrizen, Schiefen und multivariate Statistiken. und kann mehrere Untergruppen von Daten umfassen. Beachten Sie, dass viele dieser Größen etwas komplizierte Kombinationen von Momenten sind: Die Standardabweichung ist beispielsweise die Quadratwurzel einer quadratischen Kombination des ersten und zweiten Moments (Mittelwert und mittleres Quadrat).

Alle diese Fälle können leicht behandelt werden, indem die verschiedenen Momente auf Summen reduziert werden , da Summen offensichtlich und leicht kombiniert werden können: Sie werden addiert. Mathematisch kommt es darauf an: Sie haben einen Stapel von Daten, die in disjunkte Gruppen der Größen:. Nennen wir diete Gruppe. Per Definition ist derte Moment eines Datenstapelsder Durchschnitt von $X = (x_1, x_2, \ldots, x_n)$ $j_1, j_2, \ldots, j_g$ $(x_1, x_2, \ldots, x_{j_1}; x_{j_1+1}, \ldots, x_{j_1+j_2}; x_{j_1+j_2+1}, \ldots; \ldots; \ldots, x_n)$ $i$ $X_{(i)} = (x_{j_i+1},x_{j_i+2}, \ldots, x_{j_{i+1}})$ $k$ $y_1, \ldots, y_j$ $k$ th Kräfte,

μ_{k} (y) = (y_{1}^{k} + y_{2}^{k} + \dots + y_{j}^{k}) / j .

$\mu_k(y) = \left(y_1^k + y_2^k + \cdots + y_j^k\right)/j.$

Offensichtlich ist die Summe der ten Potenzen. Unter Bezugnahme auf unsere vorherige Zerlegung von Daten in Untergruppen können wir daher eine Summe von Potenzen in Gruppen von Summen aufteilen und erhalten $j \mu_k(y)$ $k$ $g$ $n$

\begin{aligned} n μ_{k} (X) & = (x_{1}^{k} + x_{2}^{k} + \dots + x_{n}^{k}) \\ = (x_{1}^{k} + x_{2}^{k} + \dots + x_{j_{1}}^{k}) + \dots + (x_{j_{1} + \dots + j_{g - 1} + 1}^{k} + x_{j_{1} + \dots + j_{g - 1} + 2}^{k} + \dots + x_{n}^{k}) \\ = j_{1} μ_{k} (X_{(1)}) + j_{2} μ_{k} (X_{(2)}) + \dots + j_{g} μ_{k} (X_{(g)}) . \end{aligned}

$\eqalign{ n \mu_k(X) &= \left(x_1^k + x_2^k + \cdots + x_n^k\right) \\ &= \left(x_1^k + x_2^k + \cdots + x_{j_1}^k\right) + \cdots + \left(x_{j_1+\cdots+j_{g-1}+1}^k + x_{j_1+\cdots+j_{g-1}+2}^k + \cdots + x_n^k\right)\\ &= j_1 \mu_k(X_{(1)}) + j_2 \mu_k(X_{(2)}) + \cdots + j_g \mu_k(X_{(g)}). }$

Die Division durch zeigt das te Moment der gesamten Charge in Bezug auf das - te Moment ihrer Untergruppen. $n$ $k$ $k$

In der vorliegenden Anmeldung sind die Einträge in der Kovarianzmatrix natürlich Kovarianzen, die als multivariate zweite Momente und erste Momente ausgedrückt werden können. Der Hauptteil der Berechnung besteht darin, dass Sie sich bei jedem Schritt auf zwei bestimmte Komponenten Ihrer multivariaten Daten konzentriert haben; Nennen wir sie und . Die Zahlen, die Sie betrachten, sind im Formular $x$ $y$

((x_{1}, y_{1}), (x_{2}, y_{2}), \dots, (x_{n}, y_{n})),

$((x_1,y_1), (x_2,y_2), \ldots, (x_n,y_n)),$

nach wie vor in Gruppen aufgeteilt. Für jede Gruppe kennen Sie die durchschnittliche Summe der Produkte des : Dies ist der multivariate Moment, . Um diese Gruppenwerte zu kombinieren, multiplizieren Sie sie mit den Gruppengrößen, addieren diese Ergebnisse und dividieren die Summe durch . $g$ $x_iy_i$ $(1,1)$ $\mu_{(1,1)}$ $n$

Um diesen Ansatz anzuwenden, müssen Sie vorausdenken : Es ist nicht möglich, beispielsweise Kovarianzen zu kombinieren, wenn Sie nur die Kovarianzen und die Untergruppengrößen kennen. Sie müssen auch die Mittel der Untergruppen kennen (da die Mittel in wesentlicher Weise beteiligt sind in allen Kovarianzformeln) oder etwas algebraisch auf die Mittel reduzierbares. Möglicherweise müssen Sie auch auf Konstanten achten, die in den Formeln enthalten sind. Die Hauptfalle für Unvorsichtige besteht darin, eine "Stichproben-Kovarianz" (die eine Summe von Produkten geteilt durch ) mit einer "Populations-Kovarianz" (wobei die Division durch ) zu verwechseln . Dies führt nichts Neues ein; Sie müssen nur daran denken, die Stichproben-Kovarianz mit (oder die Gruppen-Kovarianz mit) zu multiplizieren $n-1$ $n$ $n-1$ $j_i-1$ ), um die Summe statt durch (oder ) wiederzugewinnen . $n$ $j_i$

Oh ja: über die vorliegende Frage. Die Formel in der Wikipedia - Artikel gegeben in Bezug auf die Gruppe Mittel (erste Momente) und die Gruppe gegeben Summen von Produkten. Wie oben beschrieben, werden diese kombiniert, indem sie addiert und dann die Ergebnisse mit einer Division angepasst werden, um die Kovarianzen zu erhalten. Die endgültige Division durch wird nicht angezeigt. $n$

— whuber
quelle

Ich bin ein bisschen verwirrt über die Definition des k-ten Moments. Nehmen Sie Null-Mittelwertdaten an?

— Reschu

@reschu Du scheinst an die zentralen Momente zu denken . Um sicherzustellen, dass dieser Beitrag richtig verstanden wird, habe ich definiert, was ich unter " moment" verstehe . Die Definition erscheint kurz vor der ersten Formel.

k^{th}

$k^\text{th}$

— whuber

Möge schlecht! Ich habe 'zentrale' und 'rohe' Momente verwechselt. Danke für die Klarstellung!

— Reschu

Ich denke, "um die Mittelwerte der Untergruppengrößen zu kennen" im vorletzten Absatz sollte stattdessen "um die Mittelwerte der Untergruppen zu kennen" lauten? (Ich zögere, dies selbst zu bearbeiten, da ich die Antwort nicht sehr sorgfältig studiert habe)

— Juho Kokkala

@ Juho Du bist ganz richtig. Vielen Dank, dass Sie das bemerkt haben!

— whuber