Klarstellung in der Informationsgeometrie

Diese Frage befasst sich mit der Arbeit Differential Geometry of Curved Exponential Families-Curvatures and Information Loss von Amari.

Der Text lautet wie folgt.

Sei eine dimensionale Mannigfaltigkeit von Wahrscheinlichkeitsverteilungen mit einem Koordinatensystem , wobei angenommen wird ... $S^n=\{p_{\theta}\}$ $n$ $\theta=(\theta_1,\dots,\theta_n)$ $p_{\theta}(x)>0$

Man kann jeden Punkt betrachten von als eine Funktion trägt , von ... $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$

Sei ; der Tangentenraum von bei der grob gesagt mit einer linearisierten Version einer kleinen Nachbarschaft von in identifiziert wird . Sei die natürliche Basis von die dem koordinierten System zugeordnet ist ... $T_{\theta}$ $S^n$ $\theta$ $\theta$ $S^n$ $e_i(\theta), i=1,\dots,n$ $T_{\theta}$

Da jeder Punkt von eine Funktion trägt , von ist es natürlich , betrachten bei als Darstellung der Funktion $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$ $e_i(\theta)$ $\theta$

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x) .

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x).$

Ich verstehe die letzte Aussage nicht. Dies erscheint in Abschnitt 2 des oben genannten Papiers. Wie ist die Basis des Tangentenraums durch die obige Gleichung gegeben? Es wäre hilfreich, wenn jemand in dieser Community, der mit dieser Art von Material vertraut ist, mir helfen könnte, dies zu verstehen. Vielen Dank.

Update 1:

Obwohl ich dem zustimme (von @aginensky), wenn sind linear unabhängig dann $\frac{\partial}{\partial\theta_i}p_{\theta}$ sind ebenfalls linear unabhängig, wie diese überhaupt Mitglieder des Tangentenraums sind, ist nicht sehr klar. Also wie kann $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ als Basis für den Tangentenraum betrachtet werden. Jede Hilfe wird geschätzt. $\frac{\partial}{\partial\theta_i}\log p_{\theta}$

Update 2:

@aginensky: In seinem Buch sagt Amari Folgendes:

$S^n=\mathcal{P}(\mathcal{X})$ $\mathcal{X}=\{x_0,\dots,x_n\}$ $\mathcal{P}(\mathcal{X})$ $\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$ $\mathcal{P}(\mathcal{X})$ $\{X\big |\sum_x X(x)=1\}$

$T_p(S^n)$ $S^n$ $\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$ $\frac{\partial}{\partial\theta_i}$ $\theta=(\theta_1,\dots,\theta_n)$ $(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

$p\mapsto \log p$ $S^n$ $\log S^n:=\{\log p\big |p\in S^n\}$ $\mathbb{R}^{\mathcal{X}}$ $X\in T_p(S^n)$ $X$ $p\mapsto \log p$ $X^{(e)}$ $(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $X^{(e)}=X(x)/p(x)$

T_{p}^{(e)} (S^{n}) = {X^{(e)} | X \in T_{p} (S^{n})} = {A \in R^{X} | \sum_{x} A (x) p (x) = 0} .

$T_p^{(e)}(S^n)=\{X^{(e)}\big |X\in T_p(S^n)\}=\{A\in \mathbb{R}^{\mathcal{X}}\big |\sum_x A(x)p(x)=0\}.$

$\frac{\partial}{\partial\theta_i}$ $(\frac{\partial}{\partial\theta_i})^{(e)}$ $T_p$ $T_p^{(e)}$ $\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

$S^n,T_p$ $(\log S^n,T_p^{(e)})$

— Ashok
quelle

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x)

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)$

θ_{i}

$\theta_{i}$

\frac{\partial}{\partial θ_{i}}

$\frac{\partial}{\partial\theta_i}$

p_{θ}

$p_{\theta}$

Ich habe versucht, meinen Kommentar aus Gründen der Klarheit zu bearbeiten, durfte dies aber nicht. Lassen Sie mich wissen, wenn Sie weitere Details wünschen.

— meh

\frac{\partial}{\partial θ_{i}} \log p_{θ} (x) = 1 / p_{θ} (x) \frac{\partial}{\partial θ_{i}} p_{θ} (x)

$\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)=1/p_{\theta}(x)\frac{\partial}{\partial\theta_i}p_{\theta}(x)$

{d θ_{i}}

$\{d\theta_i\}$

{\frac{\partial}{\partial θ_{i}}}

$\{\frac{\partial}{\partial\theta_i}\}$

d θ

$d\theta$

p_{θ}

$p_{\theta}$

Meine Kommentare sind so lang, dass ich sie als Antwort einsetze.

$R^n$ $R^n$ $R^n$ $R^n$ $R^n$

$S^n$ $\theta_{i}$ $p_{\theta}$ $S^n$ $p$ $p$ $\theta_{i}$ $R^n$ $p_{\theta}$ $p$

$\{1,2,3\}$ $\{a,b,c\}$ $R^{+}$ $R$ $>0$ und überlegen Sie, was die Karte auf tangentialen Räumen ist. Verstehe ich endlich deine Frage? Eine Einschränkung ist angebracht, nämlich dass die Differentialgeometrie nicht mein Hauptfachgebiet ist. Ich denke, ich habe es richtig verstanden, aber Sie können diese Antwort gerne kritisieren oder dennoch in Frage stellen.

— meh
quelle

f_{*}

$f_{*}$

p

$p$

G = [g_{i, j}]

$G=[g_{i,j}]$

g_{i, j} = \sum_{x} \partial_{i} p_{θ} (x) \partial_{j} \log p_{θ} (x)

$g_{i,j}=\sum_x\partial_i p_{\theta}(x)~\partial_j\log p_{\theta}(x)$

\partial_{j} \log p_{θ}

$\partial_j\log p_{\theta}$