Verallgemeinerte lineare Modelle - Was ist das Besondere an der Exponentialfamilie?

In verallgemeinerten linearen Modellen muss die bedingte Verteilung der Antwortvariablen zur Exponentialfamilie gehören. Warum ist diese Einschränkung wichtig? Welche Eigenschaft würde ein Regressionsmodell verlieren, wenn wir eine Verteilung außerhalb der Exponentialfamilie wählen würden?

regression generalized-linear-model exponential-family

— üblich ich
quelle

Das Ausreichen der Maximum-Likelihood-Schätzung ist eine Sache, die Sie verlieren werden.

— Utobi

Theorie und Algorithmen lassen sich leichter innerhalb der Exponentialfamilie entwickeln. Aber Sie können auch nach draußen gehen, und das ist heutzutage so - sehen Sie sich das R VGAM-Paket an und tun Sie genau dies.

— kjetil b halvorsen

Jaynes argumentiert, dass Ihre Schätzer keine ausreichenden Statistiken mehr sind, wenn Sie die exponentielle Familie verlassen. Wenn eine Statistik für einen Parameter ausreicht, dann $\Pr(t|\theta)=\Pr(X|\theta)$ . Was impliziert , dass die Information in die gleichen wie in der Probe vorhanden ist . Bayes - Methoden immer alle Daten in verwenden . Nicht-Bayes'sche Methoden verwenden eine Statistik. Wenn diese Statistik dieselben Informationen enthält, ist der Schätzer nicht schlechter. $t$ $X$ $X$

Wenn die Statistik nicht ausreicht, ist sie lauter als die Bayes'sche Schätzung. Bayesianische Schätzer sind immer zulässige Statistiken. Wenn die Verteilung nicht in der Exponentialfamilie liegt, wird sie vom Bayes'schen Schätzer stochastisch dominiert, daher ist der Schätzer unzulässig.

Wenn Sie eine solche Annahme nicht treffen, ist es unter allen Umständen besser, ein Bayes'sches Modell zu verwenden. Wenn dies der Fall wäre, warum würden Sie eine Alternative verwenden?

— Dave Harris
quelle