Die meisten Schätzverfahren beinhalten das Auffinden von Parametern, die eine objektive Funktion minimieren (oder maximieren). Zum Beispiel minimieren wir mit OLS die Summe der quadratischen Residuen. Mit der Maximum-Likelihood-Schätzung maximieren wir die Log-Likelihood-Funktion. Der Unterschied ist trivial: Minimierung kann durch Verwendung des Negativs der Zielfunktion in Maximierung umgewandelt werden.
Manchmal kann dieses Problem algebraisch gelöst werden und eine geschlossene Lösung ergeben. Mit OLS lösen Sie das System der Bedingungen erster Ordnung und erhalten die vertraute Formel (obwohl Sie wahrscheinlich noch einen Computer benötigen, um die Antwort auszuwerten). In anderen Fällen ist dies mathematisch nicht möglich und Sie müssen mit einem Computer nach Parameterwerten suchen. In diesem Fall spielen der Computer und der Algorithmus eine größere Rolle. Nichtlineare kleinste Quadrate sind ein Beispiel. Sie erhalten keine explizite Formel. Alles, was Sie erhalten, ist ein Rezept, das Sie für die Implementierung auf dem Computer benötigen. Das Rezept könnte mit einer ersten Vermutung beginnen, wie die Parameter lauten und wie sie variieren können. Sie probieren dann verschiedene Parameterkombinationen aus und sehen, welche Ihnen den niedrigsten / höchsten Zielfunktionswert liefert. Dies ist der Brute-Force-Ansatz und dauert lange. Zum Beispiel,105
Oder Sie beginnen mit einer Vermutung und verfeinern diese Vermutung in eine Richtung, bis die Verbesserungen in der Zielfunktion unter einem bestimmten Wert liegen. Diese werden normalerweise als Gradientenmethoden bezeichnet (obwohl es andere gibt, die den Gradienten nicht verwenden, um zu bestimmen, in welche Richtung sie gehen sollen, wie genetische Algorithmen und simuliertes Tempern). Einige Probleme wie dieses garantieren, dass Sie schnell die richtige Antwort finden (quadratische Zielfunktionen). Andere geben keine solche Garantie. Sie könnten befürchten, dass Sie sich nicht mehr auf ein globales, sondern auf ein lokales Optimum festgelegt haben, und versuchen, eine Reihe von ersten Vermutungen anzustellen. Möglicherweise stellen Sie fest, dass sehr unterschiedliche Parameter denselben Wert für die Zielfunktion liefern, sodass Sie nicht wissen, welcher Satz ausgewählt werden soll.
E[ y] = exp{ α }
Q.N( Α ) = - 12 N∑ichN( yich- exp{ α } )2
α∗= lny¯ln( y¯+ k )