GLMs müssen in den Parametern linear sein.

7

Ich habe eine gewisse kognitive Dissonanz darüber, was "linear in den Parametern" bedeutet. Zum Beispiel hier und hier .

Zum Beispiel ist mein Verständnis ist in den Parametern nicht linear, da zwei Parametervariablen miteinander multipliziert sind (nämlich ). $y_i = \beta_0 + \beta_1\beta_2x_1 + \exp(\beta_3)(x_2)^2 + \epsilon$ ${\beta_1, \beta_2}$

Wenn (sagen wir) durch , eine Konstante, ersetzt würde, wäre dies der Fall. $\beta_1$ $\gamma_1$

Schätzen Sie, ob jemand diesen Punkt klären könnte.

generalized-linear-model linear parameterization

— Ben S.
quelle

Während Sie korrekt sind, ist die Funktion in den Parametern nicht linear, kann aber mit einer Protokolltransformation durchgeführt werden

— Repmat

@Repmat Wie so? Wie hilft die Protokolltransformation hier?

— Nick Cox

Ich sehe nicht, dass irgendetwas , linear oder nichtlinear, separat abschätzbar macht. Beobachten Sie positiver, dass GLM in verschiedenen Kontexten allgemeine lineare Modelle und verallgemeinerte lineare Modelle bedeutet, die sich überlappen, aber keineswegs identische Klassen sind.

β_{1}, β_{2}

$\beta_1, \beta_2$

— Nick Cox

Entfernen des Produkts und der exp

— Repmat

1

OK, Sie parametrisieren also neu. Das ist keine Transformation (von Variablen), worauf ich geschlossen habe.

— Nick Cox

6

Ihr Beispielmodell kann erneut ausgedrückt werden, um in den Parametern linear zu sein $\alpha=\beta_1\beta_2$ & $\zeta=\exp\beta_3$ ::

g (E Y) = β_{0} + α x_{1} + ζ x_{2}^{2}

$g(\operatorname{E} Y) = \beta_0 + \alpha x_1 + \zeta x_2^2$

(Deutlich $\beta_1$ & $\beta_2$ sind nicht separat abschätzbar; Ein nichtlineares Modell würde dort nicht helfen. Und beachte das $\hat\zeta$ muss eingeschränkt werden, um positiv zu sein.) Einige Modelle können nicht so neu ausgedrückt werden:

g (E Y) = β_{0} + β_{1} x_{1} + x_{2}^{β_{2}}

$g(\operatorname{E} Y) = \beta_0 + \beta_1 x_1 + x_2^{\beta_2}$

Einige können sein, obwohl es zunächst nicht offensichtlich ist: https://stats.stackexchange.com/a/60504/17230 .

Es gibt eine sehr gründliche Diskussion der verschiedenen Bedeutungen von "linear" unter Wie kann man den Unterschied zwischen linearen und nichtlinearen Regressionsmodellen erkennen? .

— Scortchi - Monica wieder einsetzen
quelle

1

Der erneute Ausdruck verliert die Information, dass

ζ

$\zeta$ ist gezwungen, positiv zu sein.

— Juho Kokkala

@JuhoKokkala: Guter Punkt - das werde ich beachten.

— Scortchi - Monica wieder einsetzen

5

Linear in den Parametern bedeutet, dass Sie Ihre Vorhersage als schreiben können

β_{0} + \sum_{j = 1}^{p} x_{i j} β_{j}

$\beta_0+\sum_{j=1}^px_{ij}\beta_j$

Für eine Definition von $x_{ij}$ . Diese x müssen jedoch keine linearen Funktionen Ihrer Daten sein. Zum Beispiel hat die ploynomiale Anpassung einer Zeitreihe $x_{ij}=t_i^j$ wo $t_i$ ist die mit dem Datenpunkt verbundene Zeit $i$ . Die Vorhersage ist eine nichtlineare Funktion der Zeit, aber in den Betas linear.

AKTUALISIEREN

Als Antwort auf den Kommentar lautet die Antwort "irgendwie". Wenn $\beta_2$ konstant war, dann ist der Prädiktor linear in $\beta_0,\beta_1,\exp (\beta_3)$ . Es ist nicht linear in $\beta_3$ , aber eine Transformation von $\beta_3$ . In Bezug auf Schätzungen der kleinsten Quadrate macht es hier keinen großen Unterschied.

— Wahrscheinlichkeitslogik
quelle

Vielen Dank für die Antwort. Vielleicht wird meine Frage nicht durch eine Transformation der x geklärt. Ich frage nach den Beta (Parametern), nicht nach Transformationen von x. Vielleicht, wenn Sie mein spezielles Beispiel oben kommentieren könnten.

— Ben S

0

Ich denke, es ist besser für Sie, die drei Komponenten des GLM zu verstehen. Insbesondere müssen Sie verstehen, wie die Verknüpfungsfunktion definiert ist.

Sie können auf Seite 7 in den folgenden Folien verweisen. 'linear in den Parametern' ist wahr, nachdem es durch die Verknüpfungsfunktion transformiert wurde.

Geben Sie hier die Linkbeschreibung ein

— Shijia Bian
quelle

1

Obwohl Links im Allgemeinen von entscheidender Bedeutung sind, scheinen sie für diesen Thread nicht relevant zu sein.

— Nick Cox

Die Parameter sind bereits vor der Transformation linear.

— Daeyoung Lim