Likelihood-Ratio-Test in R

Angenommen, ich werde eine univariate logistische Regression für mehrere unabhängige Variablen durchführen:

mod.a <- glm(x ~ a, data=z, family=binominal("logistic"))
mod.b <- glm(x ~ b, data=z, family=binominal("logistic"))

Ich habe einen Modellvergleich (Likelihood Ratio Test) durchgeführt, um festzustellen, ob das Modell mit diesem Befehl besser ist als das Nullmodell

1-pchisq(mod.a$null.deviance-mod.a$deviance, mod.a$df.null-mod.a$df.residual)

Dann baute ich ein anderes Modell mit allen Variablen darin

mod.c <- glm(x ~ a+b, data=z, family=binomial("logistic"))

Um festzustellen, ob die Variable im multivariaten Modell statistisch signifikant ist, habe ich den lrtestBefehl von verwendetepicalc

lrtest(mod.c,mod.a) ### see if variable b is statistically significant after adjustment of a
lrtest(mod.c,mod.b) ### see if variable a is statistically significant after adjustment of b

Ich frage mich, ob die pchisqMethode und die lrtestMethode für die Durchführung des Loglikelihood-Tests gleichwertig sind. Ich weiß nicht, wie ich es lrtestfür das Univate-Logistikmodell verwenden soll.

Grundsätzlich ja, vorausgesetzt, Sie verwenden den richtigen Unterschied in der Log-Wahrscheinlichkeit:

> library(epicalc)
> model0 <- glm(case ~ induced + spontaneous, family=binomial, data=infert)
> model1 <- glm(case ~ induced, family=binomial, data=infert)
> lrtest (model0, model1)
Likelihood ratio test for MLE method 
Chi-squared 1 d.f. =  36.48675 , P value =  0 
> model1$deviance-model0$deviance
[1] 36.48675

und nicht die Abweichung für das Nullmodell, die in beiden Fällen gleich ist. Die Anzahl von df ist die Anzahl von Parametern, die sich zwischen den beiden verschachtelten Modellen unterscheiden, hier ist df = 1. Übrigens, Sie können sich den Quellcode ansehen, lrtest()indem Sie einfach etwas eingeben

> lrtest

an der R-Eingabeaufforderung.

Eine Alternative ist das lmtestPaket, das eine lrtest()Funktion hat, die ein einzelnes Modell akzeptiert. Hier ist das Beispiel aus ?lrtestdem lmtestPaket, das sich auf einen LM bezieht, aber es gibt Methoden, die mit GLMs funktionieren:

> require(lmtest)
Loading required package: lmtest
Loading required package: zoo
> ## with data from Greene (1993):
> ## load data and compute lags
> data("USDistLag")
> usdl <- na.contiguous(cbind(USDistLag, lag(USDistLag, k = -1)))
> colnames(usdl) <- c("con", "gnp", "con1", "gnp1")
> fm1 <- lm(con ~ gnp + gnp1, data = usdl)
> fm2 <- lm(con ~ gnp + con1 + gnp1, data = usdl)
> ## various equivalent specifications of the LR test
>
> ## Compare two nested models
> lrtest(fm2, fm1)
Likelihood ratio test

Model 1: con ~ gnp + con1 + gnp1
Model 2: con ~ gnp + gnp1
  #Df  LogLik Df  Chisq Pr(>Chisq)    
1   5 -56.069                         
2   4 -65.871 -1 19.605  9.524e-06 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 
>
> ## with just one model provided, compare this model to a null one
> lrtest(fm2)
Likelihood ratio test

Model 1: con ~ gnp + con1 + gnp1
Model 2: con ~ 1
  #Df   LogLik Df  Chisq Pr(>Chisq)    
1   5  -56.069                         
2   2 -119.091 -3 126.04  < 2.2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1