Als «maximum-likelihood» getaggte Fragen

eine Methode zum Schätzen von Parametern eines statistischen Modells durch Auswahl des Parameterwerts, der die Wahrscheinlichkeit der Beobachtung der gegebenen Stichprobe optimiert.

5
Kann der empirische Hessische Wert eines M-Schätzers unbestimmt sein?
Jeffrey Wooldridge sagt in seiner ökonometrischen Analyse von Querschnitts- und Paneldaten (Seite 357), dass der empirische Hessische Wert "für die bestimmte Stichprobe, mit der wir arbeiten, nicht garantiert positiv oder sogar positiv semidefinit ist". Dies erscheint mir falsch, da (abgesehen von numerischen Problemen) der Hessische Wert aufgrund der Definition des …
3
Warum muss man REML (anstelle von ML) verwenden, um unter verschachtelten Var-Covar-Modellen zu wählen?
Verschiedene Beschreibungen zur Modellauswahl für zufällige Effekte von linearen gemischten Modellen weisen an, REML zu verwenden. Ich kenne den Unterschied zwischen REML und ML auf einer bestimmten Ebene, aber ich verstehe nicht, warum REML verwendet werden sollte, weil ML voreingenommen ist. Ist es beispielsweise falsch, mit ML eine LRT für …
6
Verwenden wir jemals die Maximum-Likelihood-Schätzung?
Ich frage mich, ob die Maximum-Likelihood-Schätzung jemals in der Statistik verwendet wurde. Wir lernen das Konzept, aber ich frage mich, wann es tatsächlich verwendet wird. Wenn wir die Verteilung der Daten annehmen, finden wir zwei Parameter, einen für den Mittelwert und einen für die Varianz, aber verwenden Sie sie tatsächlich …
2
Bei welchen Modellen fällt die Vorspannung von MLE schneller als die Varianz?
θ^\hat\thetaθ∗\theta^*nn Sie ‖ θ - θ * ‖ ∥θ^−θ∗∥\lVert\hat\theta-\theta^*\rVertO ( 1 / √n )O(1/n−−√)O(1/\sqrt n)‖E θ -θ*‖∥Eθ^−θ∗∥\lVert \mathbb E\hat\theta - \theta^*\rVert‖E θ - θ ‖∥Eθ^−θ^∥\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/ √n )O(1/n−−√)O(1/\sqrt{n}) Ich interessiere mich für Modelle mit einer Abweichung , die schneller als schrumpft, bei der der Fehler jedoch nicht …
1
Eingeschränkte maximale Wahrscheinlichkeit mit weniger als dem vollen Spaltenrang von
Diese Frage befasst sich mit der eingeschränkten Maximalwahrscheinlichkeitsschätzung (REML) in einer bestimmten Version des linearen Modells, nämlich: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), Wobei eine durch ; parametrisierte ( ) Matrix ist , wie auch . ist ein unbekannter Vektor von Störparametern; das Interesse liegt in …
1
Warum sollten wir das Konvergenzverhalten verschiedener Schätzer in verschiedenen Topologien diskutieren?
Im ersten Kapitel des Buches Algebraische Geometrie und Statistische Lerntheorie, das sich mit der Konvergenz von Schätzungen in verschiedenen Funktionsräumen befasst, wird erwähnt, dass die Bayes'sche Schätzung der Schwartz-Verteilungstopologie entspricht, während die Maximum-Likelihood-Schätzung der Sup-Norm-Topologie entspricht (auf Seite 7): Zum Beispiel Sup-Norm, LpLpL^p -Norm, schwache Topologie des Hilbert-Raums , Schwartz-Verteilungstopologie …
1
Caret glmnet vs cv.glmnet
Es scheint eine Menge Verwirrung im Vergleich zwischen der Verwendung von glmnetinside caretzur Suche nach einem optimalen Lambda und der Verwendung cv.glmnetderselben Aufgabe zu geben. Viele Fragen wurden gestellt, zB: Klassifizierungsmodell train.glmnet vs. cv.glmnet? Was ist der richtige Weg, um glmnet mit caret zu verwenden? Quervalidierung von "glmnet" mit "caret" …
1
Maximiert eine logistische Regressionsmaximierung zwangsläufig auch die AUC gegenüber linearen Modellen?
Ausgehend von einem Datensatz mit binären Ergebnissen und einer Prädiktormatrix schätzt das logistische Standardregressionsmodell die Koeffizienten , die die Binomialwahrscheinlichkeit maximieren. Wenn vollen Rang hat, ist eindeutig. Wenn keine perfekte Trennung vorliegt, ist sie endlich.y∈{0,1}ny∈{0,1}ny\in\{0,1\}^nX∈Rn×pX∈Rn×pX\in\mathbb{R}^{n\times p}βMLEβMLE\beta_{MLE}XXXβMLEβMLE\beta_{MLE} Maximiert dieses Maximum-Likelihood-Modell auch die ROC-AUC (aka Statistik) oder gibt es eine Koeffizientenschätzung die …
1
Warum ist MLE sinnvoll, wenn die Wahrscheinlichkeit einer einzelnen Stichprobe 0 ist?
Dies ist ein seltsamer Gedanke, den ich hatte, als ich einige alte Statistiken durchgesehen habe, und aus irgendeinem Grund kann ich mir die Antwort nicht vorstellen. Ein fortlaufendes PDF zeigt die Dichte der beobachteten Werte in einem bestimmten Bereich an. Wenn beispielsweise X∼N(μ,σ2)X∼N(μ,σ2)X \sim N(\mu,\sigma^2) ist, dann ist die Wahrscheinlichkeit, …
1
Wird die frequentistische bedingte Folgerung in der Praxis immer noch verwendet?
Ich habe kürzlich einige alte Artikel von Nancy Reid, Barndorff-Nielsen, Richard Cox und, ja, einem kleinen Ronald Fisher über das Konzept der "bedingten Folgerung" im frequentistischen Paradigma besprochen, was zu bedeuten scheint, dass Folgerungen nur auf dem beruhen "relevante Teilmenge" des Probenraums, nicht der gesamte Probenraum. Als Schlüsselbeispiel ist bekannt, …
1
Verlässt sich ANOVA auf die Methode der Momente und nicht auf die maximale Wahrscheinlichkeit?
Ich sehe an verschiedenen Stellen erwähnt, dass ANOVA seine Schätzung mit der Methode der Momente durchführt. Diese Behauptung verwirrt mich, denn obwohl ich mit der Methode der Momente nicht vertraut bin, verstehe ich, dass sie etwas anderes ist als die Methode der maximalen Wahrscheinlichkeit und nicht gleichwertig damit. Andererseits kann …
3
Lineare Regression: Gibt es eine nicht normale Verteilung, die die Identität von OLS und MLE angibt?
Diese Frage ist inspiriert von der langen Diskussion in den Kommentaren hier: Wie verwendet die lineare Regression die Normalverteilung? In dem üblichen linearen Regressionsmodell wird hier der Einfachheit halber mit nur einem Prädiktor geschrieben: wobei bekannte Konstanten sind und unabhängige Fehlerterme mit dem Mittelwert Null sind. Wenn wir zusätzlich Normalverteilungen …
3
Welches ist die bessere maximale oder marginale Wahrscheinlichkeit und warum?
Bei der Durchführung der Regression gehen wir von der Definition aus: Was ist der Unterschied zwischen einer Teilwahrscheinlichkeit, einer Profilwahrscheinlichkeit und einer Grenzwahrscheinlichkeit? dass, Maximum Likelihood Findet β und θ, die L (β, θ | data) maximieren. Während, Grenzwahrscheinlichkeit Wir integrieren θ aus der Wahrscheinlichkeitsgleichung, indem wir die Tatsache ausnutzen, …
1
MLE des Positionsparameters in einer Cauchy-Verteilung
Nach der Zentrierung können die beiden Messungen x und −x als unabhängige Beobachtungen aus einer Cauchy-Verteilung mit Wahrscheinlichkeitsdichtefunktion angenommen werden: f(x:θ)=f(x:θ)=f(x :\theta) = 1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞&lt;x&lt;∞,−∞&lt;x&lt;∞, -∞ < x < ∞ Zeigen Sie, dass, wenn x2≤1x2≤1x^2≤ 1 der MLE von θθ\theta 0 ist, aber wenn x2&gt;1x2&gt;1x^2>1 es zwei MLE von …
1
Verwenden von MLE vs. OLS
Wann ist es vorzuziehen, die Maximum-Likelihood-Schätzung anstelle der gewöhnlichen kleinsten Quadrate zu verwenden? Was sind die Stärken und Grenzen eines jeden? Ich versuche, praktisches Wissen darüber zu sammeln, wo sie in allgemeinen Situationen eingesetzt werden können.
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.