Lineare Transformation einer Zufallsvariablen durch eine hohe rechteckige Matrix

Nehmen wir an, wir haben einen Zufallsvektor , der aus einer Verteilung mit der Wahrscheinlichkeitsdichtefunktion . Wenn wir es linear durch eine Matrix mit vollem Rang transformieren , um , ist die Dichte von gegeben durch $\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

Nehmen wir nun an, wir transformieren stattdessen durch eine Matrix mit , was ergibt . Klar , aber es "lebt" auf einem dimensionalen Unterraum . Was ist die bedingte Dichte von , wenn wir wissen, dass es in liegt ? $\vec{X}$ $m \times n$ $B$ $m > n$ $\vec{Z} = B\vec{X}$ $Z \in \mathbb{R}^m$ $n$ $G \subset \mathbb{R}^m$ $\vec{Z}$ $G$

Mein erster Instinkt war, die Pseudo-Inverse von . Wenn die Singularwertzerlegung von , dann ist die Pseudo-Inverse, wobei durch Invertieren der Nicht-Null-Einträge der Diagonalmatrix . Ich vermutete, dass dies $B$ $B = U S V^T$ $B$ $B^+ = V S^+ U^T$ $S^+$ $S$ wobei durch

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$

das Produkt der Singularwerte ungleich Null gemeint ist.

\overset{+}{det} S

$\det^+ S$

Diese Argumentation stimmt mit der hier angegebenen und erwähnten Dichte für eine singuläre Normale überein (abhängig von dem Wissen, dass die Variable auf dem entsprechenden Unterraum lebt) auch hier und in diesem CrossValidated-Beitrag erwähnt wird .

Aber es ist nicht richtig! Die Normalisierungskonstante ist ausgeschaltet. Ein (triviales) Gegenbeispiel ergibt sich aus folgendem Fall: Mit sei $X \sim \mathcal{N(0, 1)}$ Hier ist die Matrixvon oben nur der Ein-Vektor. Seine pseudoinversen ist und

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$

B

$B$

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$

. Die Argumentation von oben würde

vorschlagen

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$

aber dies integriert tatsächlich (auf der Linie

) zu

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$

y = x

$y = x$

. Mir ist klar, dass Sie in diesem Fall einfach einen der Einträge von

löschen können, aber wenn

viel größer ist, ist es ärgerlich, die zu löschenden Einträge zu identifizieren. Warum funktioniert das pseudo-inverse Denken nicht? Gibt es eine allgemeine Formel für die Dichtefunktion einer linearen Transformation einer Menge von Zufallsvariablen durch eine "große" Matrix? Alle Referenzen wäre auch sehr dankbar.

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$

\vec{Y}

$\vec{Y}$

B

$B$

— Dan
quelle

$y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$ (kommt aus genau dem gleichen Jacobian) im Nenner.

$B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

$B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— Dan
quelle