Statistiken und Big Data maximum-likelihood

1

LogLikelihood-Parameterschätzung für linearen Gaußschen Kalman-Filter

Ich habe einen Code geschrieben, der die Kalman-Filterung (unter Verwendung einer Reihe verschiedener Kalman-Filter [Information Filter et al.]) Für die lineare Gaußsche Zustandsraumanalyse für einen n-dimensionalen Zustandsvektor durchführen kann. Die Filter funktionieren sehr gut und ich bekomme eine schöne Ausgabe. Die Parameterschätzung über die Loglikelihood-Schätzung verwirrt mich jedoch. Ich bin …

13 maximum-likelihood algorithms kalman-filter likelihood

1

AIC / BIC: Wie viele Parameter zählt eine Permutation?

Angenommen, ich habe ein Modellauswahlproblem und versuche, die Modelle mit AIC oder BIC zu bewerten. Dies ist unkompliziert für Modelle mit der Nummer kkk reellwertigen Parametern. Was ist jedoch, wenn eines unserer Modelle (z. B. das Mallows-Modell ) eine Permutation plus einige reelle Parameter anstelle von reellen Parametern aufweist? Ich …

13 modeling maximum-likelihood aic fitting bic

1

Berechnung der Wahrscheinlichkeit aus RMSE

Ich habe ein Modell zur Vorhersage einer Trajektorie (x als Funktion der Zeit) mit mehreren Parametern. Im Moment berechne ich den quadratischen Fehler (RMSE) zwischen der vorhergesagten und der experimentell aufgezeichneten Flugbahn. Derzeit minimiere ich diesen Unterschied (RMSE) mit simplex (fminsearch in matlab). Während diese Methode funktioniert, um gute Anpassungen …

13 maximum-likelihood curve-fitting

2

Hessischer Wert der Profilwahrscheinlichkeit, der für die Standardfehlerschätzung verwendet wird

Diese Frage ist von dieser motiviert . Ich habe zwei Quellen nachgeschlagen und das habe ich gefunden. A. van der Vaart, Assymptotische Statistik: Es ist selten möglich, eine Profilwahrscheinlichkeit explizit zu berechnen, aber ihre numerische Auswertung ist oft machbar. Dann kann die Profilwahrscheinlichkeit dazu dienen, die Dimension der Wahrscheinlichkeitsfunktion zu …

13 estimation maximum-likelihood likelihood asymptotics profile-likelihood

1

Suche nach einem theoretischen Verständnis der Firth Logistic Regression

Ich versuche, die logistische Regression von Firth zu verstehen (Methode zum Behandeln einer perfekten / vollständigen oder quasi vollständigen Trennung in der logistischen Regression), damit ich sie anderen in vereinfachten Begriffen erklären kann. Hat jemand eine abgedrehte Erklärung, welche Änderung Firth-Schätzung an MLE vornimmt? Ich habe nach bestem Wissen Firth …

13 logistic maximum-likelihood separation

5

MLE vs MAP Schätzung, wann welche verwenden?

MLE = Maximum Likelihood Estimation MAP = Maximum a posteriori MLE ist insofern intuitiv / naiv, als es nur mit der Beobachtungswahrscheinlichkeit bei gegebenem Parameter (dh der Wahrscheinlichkeitsfunktion) beginnt und versucht, den Parameter zu finden, der der Beobachtung am besten entspricht . Das Vorwissen wird jedoch nicht berücksichtigt. MAP erscheint …

13 machine-learning bayesian estimation maximum-likelihood inference

3

Was ist die Methode der Momente und wie unterscheidet sie sich von MLE?

Im Allgemeinen scheint die Methode der Momente nur mit dem beobachteten Stichprobenmittelwert oder der Varianz mit den theoretischen Momenten übereinzustimmen, um Parameterschätzungen zu erhalten. Dies ist oft dasselbe wie MLE für exponentielle Familien, wie ich erfahre. Es ist jedoch schwierig, eine klare Definition der Methode der Momente und eine klare …

13 maximum-likelihood method-of-moments

1

Ist die MLE-Schätzung asymptotisch normal und effizient, auch wenn das Modell nicht wahr ist?

Prämisse: Dies kann eine dumme Frage sein. Ich kenne nur die Aussagen über die asymptotischen Eigenschaften von MLE, habe die Beweise aber nie studiert. Wenn ich das täte, würde ich diese Fragen vielleicht nicht stellen, oder ich würde erkennen, dass diese Fragen keinen Sinn ergeben. Ich habe oft Aussagen gesehen, …

12 maximum-likelihood model asymptotics

1

Können Sie eine einfache intuitive Erklärung der IRLS-Methode zum Ermitteln der MLE eines GLM geben?

Hintergrund: Ich versuche, Princetons Überprüfung der MLE-Schätzung für GLM zu folgen . Verstehe ich die Grundlagen der MLE Schätzung: likelihood, score, beobachteten und erwarteten Fisher informationund die Fisher scoringTechnik. Und ich weiß, wie man eine einfache lineare Regression mit einer MLE-Schätzung rechtfertigt . Die Frage: Ich kann nicht einmal die …

12 regression generalized-linear-model maximum-likelihood link-function irls

3

Maximum-Likelihood-Schätzer der gemeinsamen Verteilung bei nur marginalen Zählungen

Sei px,ypx,yp_{x,y} eine gemeinsame Verteilung zweier kategorialer Variablen X,YX,YX,Y mit x,y∈{1,…,K}x,y∈{1,…,K}x,y\in\{1,\ldots,K\} . Angenommen, es wurden nnn Stichproben aus dieser Verteilung gezogen, aber wir erhalten nur die Grenzwerte, nämlich für j=1,…,Kj=1,…,Kj=1,\ldots,K : Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j),Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j), S_j = \sum_{i=1}^{n}{\delta(X_i=l)}, T_j = \sum_{i=1}^{n}{\delta(Y_i=j)}, Was ist der Maximum-Likelihood-Schätzer für px,ypx,yp_{x,y} bei Sj,TjSj,TjS_j,T_j ? Ist das bekannt? …

12 categorical-data maximum-likelihood joint-distribution marginal maximum-entropy

1

Berechnen Sie die log-Wahrscheinlichkeit „von Hand“ für die verallgemeinerte nichtlineare Regression der kleinsten Quadrate (nlme)

Ich versuche, die log-Wahrscheinlichkeit für eine verallgemeinerte nichtlineare Regression der kleinsten Quadrate für die Funktion f ( x ) = β 1 zu berechnenoptimiert durch dieFunktion im R-Paketunter Verwendung der Varianz-Kovarianz-Matrix, die durch Abstände auf einem phylogenetischen Baum unter Annahme einer Brownschen Bewegung (aus demPaket) erzeugt wird. Der folgende reproduzierbare …

12 r maximum-likelihood least-squares nonlinear-regression mixed-model

1

Verhältnis von Wahrscheinlichkeiten zu Verhältnis von PDFs

Ich verwende Bayes, um ein Clustering-Problem zu lösen. Nach einigen Berechnungen muss ich das Verhältnis zweier Wahrscheinlichkeiten ermitteln: P(A)/P(B)P(A)/P(B)P(A)/P(B) um . Diese Wahrscheinlichkeiten werden durch die Integration von zwei verschiedenen multivariaten 2D-KDEs erhalten, wie in dieser Antwort erläutert :P(H|D)P(H|D)P(H|D) P ( B ) = ∬ x , y : g …

12 probability bayesian maximum-likelihood kernel-smoothing

2

Bedeutet MLE immer, dass wir das zugrunde liegende PDF unserer Daten kennen, und bedeutet EM, dass wir es nicht kennen?

Ich habe einige einfache konzeptionelle Fragen, die ich in Bezug auf MLE (Maximum Likelihood Estimation) klären möchte, und welchen Zusammenhang es gegebenenfalls mit EM (Expectation Maximization) hat. Wenn jemand sagt, "Wir haben die MLE verwendet", bedeutet dies nach meinem Verständnis dann automatisch, dass er ein explizites Modell der PDF-Datei seiner …

12 estimation maximum-likelihood expectation-maximization

2

Kernel-Dichteschätzer in 2D integrieren

Ich komme von dieser Frage, falls jemand der Spur folgen möchte. Grundsätzlich habe ich einen Datensatz ΩΩ\Omega bestehend aus NNN Objekten, an die an jedem Objekt eine bestimmte Anzahl von Messwerten angehängt ist (in diesem Fall zwei): Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]\Omega = o_1[x_1, y_1], o_2[x_2, y_2], ..., o_N[x_N, y_N] Ich brauche einen Weg …

12 probability maximum-likelihood kernel-smoothing numerical-integration

6

Wenn Sie eine Punktschätzung verwenden, die

Wenn jemand sagte "Dieses Verfahren verwendet die MLE- Punktschätzung für den Parameter, der maximiert P (x | θ)P(x|θ)\mathrm{P}(x|\theta), daher ist es häufig; und außerdem ist es nicht bayesianisch." würdest du zustimmen? Update zum Hintergrund : Ich habe kürzlich eine Zeitung gelesen, die behauptet, häufig zu sein. Ich bin mit ihrer …

12 bayesian maximum-likelihood likelihood frequentist philosophical

Als «maximum-likelihood» getaggte Fragen