Fisher-Informationen in einem hierarchischen Modell

Ausgehend von dem folgenden hierarchischen Modell sind und wobei ist eine Normalverteilung. Gibt es eine Möglichkeit, einen genauen Ausdruck für die Fisher-Information der Randverteilung von wenn . Das heißt, was ist die Fisher-Information von: Ich kann einen Ausdruck für die Randverteilung von gegebenem , Aber es scheint sehr schwierig zu sein, zwischen wrt und den Erwartungen zu unterscheiden. Vermisse ich etwas Offensichtliches? Jede Hilfe wäre dankbar.

X \sim N (μ, 1),

$X \sim {\mathcal N}(\mu,1),$

μ \sim L a p l a c e (0, c)

$\mu \sim {\rm Laplace}(0, c)$

N (\cdot, \cdot)

$\mathcal{N}(\cdot,\cdot)$

X

$X$

c

$c$

p (x | c) = \int p (x | μ) p (μ | c) d μ

$p(x | c) = \int p(x|\mu) p(\mu|c) d\mu$

X

$X$

c

$c$

c

$c$

multilevel-analysis information fisher-information

— emakalisch
quelle

Ich habe es selbst ausprobiert, aber es ist jenseits meiner Fähigkeiten. Absolutwertfunktionen ruinieren alles! Sie sind im Grunde mit numerischen Methoden fest.

— Wahrscheinlichkeitslogik

@probability Sie können einen Ausdruck für den Integranden erhalten, indem Sie das Integral einfach in die Bereiche

μ \geq 0

$\mu \ge 0$ und

μ < 0

$\mu \lt 0$ . Es werden keine absoluten Werte benötigt. Aber das Ergebnis ist eine chaotische rationale Funktion von

x

$x$ ,

e x p (- x^{2})

$exp(-x^2)$ und Fehlerfunktionen, und es ist unwahrscheinlich, dass sie in geschlossener Form integriert werden kann.

— whuber

@whuber - das habe ich mit "hoffnungslos" gemeint. Nicht dass das Integral unmöglich ist, aber die Fischerinformation ist unmöglich. Weil Sie den erwarteten Wert über

X

$X$ eines Verhältnisses von zwei dieser Arten von Integralen nehmen müssen

— Wahrscheinlichkeitsrechnung

Eine Untergrenze für die Fisher-Information ist in diesem Fall

1 / (1 + 2 c^{2})

$1/(1+2c^2)$ . Ist es möglich, eine engere Obergrenze für die Fisher-Informationen zu erhalten als für die allgemeine

1 + 1 / c^{2}

$1 + 1/c^2$ ?

— Emakalic

Während eine analytische Lösung eine Herausforderung hinsichtlich der menschlichen Traktabilität darstellt (außerhalb einer mathematischen Disziplin), gibt es eine Empfänglichkeit für eine ungefähre rechnerische Lösung? Man könnte eine stochastische Simulation durchführen und dann die Näherungen für die Anpassung betrachten.

— EngrStudent - Wiedereinsetzung von Monica

Antworten:

Es gibt keinen geschlossenen analytischen Ausdruck für die Fisher-Informationen für das von Ihnen angegebene hierarchische Modell. In der Praxis können Fisher-Informationen nur für exponentielle Familienverteilungen analytisch berechnet werden. Für exponentielle Familien ist die Log-Wahrscheinlichkeit in den ausreichenden Statistiken linear, und die ausreichenden Statistiken haben bekannte Erwartungen. Bei anderen Distributionen vereinfacht sich die Log-Wahrscheinlichkeit auf diese Weise nicht. Weder die Laplace-Verteilung noch das hierarchische Modell sind exponentielle Familienverteilungen, daher ist eine analytische Lösung unmöglich.

— Gordon Smyth
quelle

Die beiden Normalen und Laplace stammen aus der Exponentialfamilie. Wenn Sie die Verteilung in Exponentialform schreiben können, ist die Fisher-Informationsmatrix der zweite Gradient des Log-Normalisierers der Exponentialfamilie.

— A. Yazdiha
quelle

Ich glaube nicht, dass der übliche Zwei-Parameter-Laplace in der Exponentialfamilie liegt. Wenn der Standortparameter bekannt ist, wird er in der Exponentialfamilie liegen, aber ich glaube, dass nicht in Exponentialfamilienform geschrieben werden kann.

\frac{1}{2} \exp (- | x - μ |)

$\frac12 \exp(-|x-\mu|)$

— Glen_b