Warum gibt mir nls () die Fehlermeldung "singuläre Gradientenmatrix bei anfänglichen Parameterschätzungen"?

Ich habe einige grundlegende Daten zur Emissionsreduzierung und zu den Kosten pro Auto:

q24 <- read.table(text = "reductions  cost.per.car
    50  45
    55  55
    60  62
    65  70
    70  80
    75  90
    80  100
    85  200
    90  375
    95  600
    ",header = TRUE, sep = "")

Ich weiß, dass dies eine Exponentialfunktion ist, daher erwarte ich, ein Modell finden zu können, das zu Folgendem passt:

    model <- nls(cost.per.car ~ a * exp(b * reductions) + c, 
         data = q24, 
         start = list(a=1, b=1, c=0))

aber ich erhalte eine Fehlermeldung:

Error in nlsModel(formula, mf, start, wts) : 
  singular gradient matrix at initial parameter estimates

Ich habe eine Menge Fragen zu dem Fehler durchgelesen, den ich sehe, und ich stelle fest , dass das Problem wahrscheinlich darin besteht, dass ich bessere / andere startWerte brauche (das initial parameter estimatesmacht ein bisschen mehr Sinn), aber ich bin mir angesichts der Tatsache nicht sicher, ob das so ist Daten, die ich habe, wie ich vorgehen würde, um bessere Parameter abzuschätzen.

Gute Startwerte für ein nichtlineares Modell automatisch zu finden, ist eine Kunst. (Für einmalige Datasets ist es relativ einfach, wenn Sie die Daten einfach grafisch darstellen und einige gute Schätzungen vornehmen können.) Ein Ansatz besteht darin, das Modell zu linearisieren und Schätzungen der kleinsten Quadrate zu verwenden.

In diesem Fall hat das Modell die Form

für unbekannte Parameter . Das Vorhandensein des Exponentials ermutigt uns, Logarithmen zu verwenden - aber das Hinzufügen von c macht es schwierig, dies zu tun. Beachten Sie jedoch, dass wenn a positiv ist, c kleiner als der kleinste erwartete Wert von Y ist und daher möglicherweise etwas kleiner als der kleinste beobachtete Wert von Y ist . (Wenn a negativ sein könnte, müssen Sie auch einen Wert von c berücksichtigen, der etwas größer als der größte beobachtete Wert von Y ist .)$a,b,c$$c$$a$$c$$Y$$Y$$a$$c$$Y$

Kümmern wir uns also um indem wir als Anfangsschätzung c 0 etwa die Hälfte des Minimums der Beobachtungen y i verwenden . Das Modell kann jetzt ohne diesen heiklen Zusatzbegriff als umgeschrieben werden$c$$c_0$$y_i$

Dass wir das Protokoll nehmen können von:

$\log(a)$$b$

Hier ist der überarbeitete Code:

c.0 <- min(q24$cost.per.car) * 0.5
model.0 <- lm(log(cost.per.car - c.0) ~ reductions, data=q24)
start <- list(a=exp(coef(model.0)[1]), b=coef(model.0)[2], c=c.0)
model <- nls(cost.per.car ~ a * exp(b * reductions) + c, data = q24, start = start)

Seine Ausgabe (für die Beispieldaten) ist

Nonlinear regression model
  model: cost.per.car ~ a * exp(b * reductions) + c
   data: q24
        a         b         c 
 0.003289  0.126805 48.487386 
 residual sum-of-squares: 2243

Number of iterations to convergence: 38 
Achieved convergence tolerance: 1.374e-06

Die Konvergenz sieht gut aus. Lass es uns plotten:

plot(q24)
p <- coef(model)
curve(p["a"] * exp(p["b"] * x) + p["c"], lwd=2, col="Red", add=TRUE)

Es hat gut funktioniert!

$y$$a\lt 0$

Eine andere Methode zur Schätzung von Anfangswerten beruht auf dem Verständnis ihrer Bedeutung, die auf Erfahrung, physikalischer Theorie usw. beruhen kann . Ein erweitertes Beispiel für eine (mäßig schwierige) nichtlineare Anpassung, deren Anfangswerte auf diese Weise bestimmt werden können, ist in meiner Antwort beschrieben unter /stats//a/15769 .

Die visuelle Analyse eines Streudiagramms (zur Bestimmung der anfänglichen Parameterschätzungen) wird unter /stats//a/32832 beschrieben und veranschaulicht .

Unter bestimmten Umständen wird eine Folge nichtlinearer Anpassungen erstellt, bei denen Sie erwarten können, dass sich die Lösungen langsam ändern. In diesem Fall ist es oft bequem (und schnell), die vorherigen Lösungen als erste Schätzungen für die nächsten zu verwenden . Ich erinnere mich, diese Technik (ohne Kommentar) unter /stats//a/63169 verwendet zu haben .

Diese Bibliothek konnte mein Problem mit nls lösen singular gradient: http://www.r-bloggers.com/a-better-nls/ Ein Beispiel:

library(minpack.lm)
nlsLM(function, start=list(variable=2,variable2=12))

Also ... ich glaube, ich habe dies als Exponentialfunktion falsch gelesen. Ich brauchte nurpoly()

model <- lm(cost.per.car ~ poly(reductions, 3), data=q24)
new.data <- data.frame(reductions = c(91,92,93,94))
predict(model, new.data)

plot(q24)
lines(q24$reductions, predict(model, list(reductions = q24$reductions)))

Oder mit lattice:

xyplot(cost.per.car ~ reductions, data = q24,
       panel = function(x, y) {
         panel.xyplot(x, y)
         panel.lines(x, predict(model,list(reductions = x) ))
       }, 
       xlab = "Reductions", 
       ylab = "Cost per car")