Berechnung der kanonischen Verknüpfungsfunktion in GLM

Ich dachte, dass die kanonische Verknüpfungsfunktion aus dem natürlichen Parameter der Exponentialfamilie stammt. Angenommen, betrachten Sie die Familie then ist die kanonische Verknüpfungsfunktion. Nehmen wir als Beispiel die Bernoulli-Verteilung , wir haben Die kanonische Verknüpfungsfunktion $g(\cdot)$

f (y, θ, ψ) = \exp {\frac{y θ - b (θ)}{a (ψ)} - c (y, ψ)}

$f(y,\theta,\psi)=\exp\left\{\frac{y\theta-b(\theta)}{a(\psi)}-c(y,\psi)\right\}$

θ = θ (μ)

$\theta=\theta(\mu)$

P (Y = y) = μ^{y} (1 - μ)^{1 - y} = \exp {y \log \frac{μ}{1 - μ} + \log (1 - μ)}

$P(Y=y)=\mu^{y}(1-\mu)^{1-y}=\exp\left\{y\log\frac{\mu}{1-\mu}+\log{(1-\mu)}\right\}$

g (μ) = \log \frac{μ}{1 - μ}

$g(\mu)=\log\frac{\mu}{1-\mu}$

Aber wenn ich diese Folie sehe , behauptet sie, dass obwohl sie für diese bestimmte Verteilung (und einige andere Verteilungen, wie die Poisson-Verteilung) leicht überprüft werden kann. Ich kann die Äquivalenz für den allgemeinen Fall nicht erkennen. Kann jemand Hinweise geben? Danke ~

g^{'} (μ) = \frac{1}{V (μ)}

$g'(\mu)=\frac{1}{V(\mu)}$

generalized-linear-model link-function

— Ziyuang
quelle

Die Varianzfunktion für die Bernoulli-Variable ist . Wir überprüfen dies leicht mit dem kanonischen Link dann $V(\mu) = \mu(1-\mu)$ $g(\mu) = \log \frac{\mu}{1-\mu} = \log \mu - \log(1-\mu)$

g^{'} (μ) = \frac{1}{μ} + \frac{1}{1 - μ} = \frac{1 - μ + μ}{μ (1 - μ)} = \frac{1}{μ (1 - μ)} = \frac{1}{V (μ)} .

$g'(\mu) = \frac{1}{\mu} + \frac{1}{1-\mu} = \frac{1 - \mu + \mu}{\mu(1-\mu)} = \frac{1}{\mu(1-\mu)} = \frac{1}{V(\mu)}.$

Für den allgemeinen Fall leitet man sich aus der Definition ab, dass siehe z. B. Seite 28-29 in McCullagh und Nelder . Mit der kanonischen Verbindung haben wir , und die Varianzfunktion ist definiert als , was in Bezug auf zu Durch Differenzierung der Identität wir

E (Y) = μ = b^{'} (θ) and Var (Y) = b^{″} (θ) a (ψ),

$E(Y) = \mu = b'(\theta) \quad \text{ and } \quad \text{Var}(Y) = b''(\theta) a(\psi),$

g

$g$

θ = g (μ) = g (b^{'} (θ))

$\theta = g(\mu) = g(b'(\theta))$

b^{″} (θ)

$b''(\theta)$

μ

$\mu$

V (μ) = b^{″} (g (μ)) .

$V(\mu) = b''(g(\mu)).$

θ = g (b^{'} (θ))

$\theta = g(b'(\theta))$

1 = g^{'} (b^{'} (θ)) b^{″} (θ) = g^{'} (μ) V (μ),

$1 = g'(b'(\theta)) b''(\theta) = g'(\mu) V(\mu),$

Bei der Konstruktion von Quasi-Wahrscheinlichkeitsfunktionen ist es natürlich, mit der Beziehung zwischen dem Mittelwert und der Varianz zu beginnen, die als Varianzfunktion . In diesem Zusammenhang kann das Anti-Derivat von als Verallgemeinerung der Verknüpfungsfunktion interpretiert werden, siehe beispielsweise die Definition der (log) Quasi-Wahrscheinlichkeit auf Seite 325 (Formel 9.3) ) in McCullagh und Nelder . $V$ $V(\mu)^{-1}$

— NRH
quelle

Vielen Dank, dass Sie @NRH. Eigentlich kenne ich die Äquivalenz für die Bernoulli-Verteilung. Ich frage mich den allgemeinen Fall. Und danke für Ihre Referenz, ich werde es überprüfen :)

— Ziyuang

@ziyuang, der allgemeine Fall ist jetzt enthalten.

— NRH

@NRH - nur um diese Antwort zu ergänzen, können die Mittel- und Varianzformeln abgeleitet werden, indem die Gleichung auf beiden Seiten in Bezug auf (oder äquivalent differenziert wird ). Die erste Ableitung gibt Ihnen den Mittelwert, die zweite die Varianz.

\int f (y, θ, ψ) d y = 1

$\int f(y,\theta,\psi)dy=1$

θ

$\theta$

μ

$\mu$

— Wahrscheinlichkeitslogik

Vielen Dank. Und ich habe einen anderen Referenzlink gefunden: fedc.wiwi.hu-berlin.de/xplore/ebooks/html/spm/…

— ziyuang