Allgemeine Theoreme für Konsistenz und asymptotische Normalität maximaler Wahrscheinlichkeit


10

Ich interessiere mich für eine gute Referenz für Ergebnisse bezüglich asymptotischer Eigenschaften von Maximum-Likelihood-Schätzern. Betrachten wir ein Modell wobei f n ( x | θ ) ist eine n -dimensionale Dichte und θ n ist die MLE basierend auf einer Probe X 1 , ... , X n von f n ( | & thgr;{fn(θ):θΘ,nN}fn(xθ)nθ^nX1,,Xn wobei θ 0 der "wahre" Wert von θ ist . Es gibt zwei Unregelmäßigkeiten, die mich interessieren.fn(θ0)θ0θ

  1. Die Daten sind nicht iid und infolgedessen fallen die Fisher-Informationen über θ langsamer an als n .X1,,Xnθn
  2. ist eine beschränkte Menge und mit positiver Wahrscheinlichkeit θ n liegt an der Grenze. Die Grenze entspricht einem "einfacheren" Modell, und daher besteht ein besonderes Interesse daran, ob θ 0 an der Grenze liegtoder nicht.Θθ^nθ0

Meine besonderen Fragen sind

  1. Lassen Sie die beobachtete Fisher-Information bezeichnen, die θ entspricht , und nehmen Sie an , dass θ 0 im Inneren von Θ liegt . Unter welchen Bedingungen ist [ J n ( θ n ) ] 1 / 2 ( θ n - θ 0 ) asymptotisch normal wie n ? Insbesondere sind die Regelmäßigkeitsbedingungen den üblichen ähnlich, wobei die relevante Modifikation J n ist (Jn(θ)θθ0Θ

    [Jn(θ^n)]1/2(θ^nθ0)
    ningewissen Sinne?Jn(θ^n)
  2. θ0θ^n=θ0Yij=μ+βi+ϵijσ^β2=0θ^nθ0θ^n=θ0

Auch hier wäre nur ein Zeiger auf einen Text mit Ergebnissen auf dieser Ebene der Allgemeinheit sehr willkommen.


Antworten:


7

Referenzen, von denen Sie ausgehen können:

Für den Fall, dass der wahre Parameter an der Grenze liegt :
Moran (1971) "Maximum-Likelihood-Schätzung unter nicht standardmäßigen Bedingungen"

Steven G. Self und Kung-Yee Liang (1987) "Asymptotische Eigenschaften von Maximum-Likelihood-Schätzern und Likelihood-Ratio-Tests unter nicht standardmäßigen Bedingungen"

Ziding Feng und Charles E. McCulloch (1990) "Statistische Inferenz unter Verwendung der Maximum-Likelihood-Schätzung und des generalisierten Likelihood-Verhältnisses, wenn sich der wahre Parameter an der Grenze des Parameterraums befindet"

Für nicht identische, aber unabhängige Wohnmobile :
Bruce Hoadley (1971) "Asymptotische Eigenschaften von Maximum-Likelihood-Schätzern für den unabhängigen, nicht identisch verteilten Fall"

Für abhängige Wohnmobile:
Martin J. Crowder (1976) "Maximum Likelihood Estimation for Dependent Observations"

Ebenfalls

Huber, PJ (1967). "Das Verhalten von Maximum-Likelihood-Schätzungen unter nicht standardmäßigen Bedingungen" . In Proceedings des fünften Berkeley-Symposiums über mathematische Statistik und Wahrscheinlichkeit (Band 1, Nr. 1, S. 221-233).

Update 17-03-2017: Wie in einem Kommentar vorgeschlagen, kann hier auf das folgende Dokument verwiesen werden

Andrews, DW (1987). Konsistenz in nichtlinearen ökonometrischen Modellen: Ein generisches einheitliches Gesetz großer Zahlen. Econometrica: Zeitschrift der Econometric Society, 1465-1471.


Schauen Sie sich die Diskussion hier an: andrewgelman.com/2012/07/05/…
kjetil b halvorsen

1
(+1) Ich habe diese Referenzen gut genutzt. Es kann nützlich sein, auch Andrews, 1987 ( jstor.org/stable/1913568 ) aufzunehmen. Insbesondere "... weist darauf hin, dass eine häufig verwendete einheitliche LLN aufgrund von Hoadley (1971, Satz A.5) nur für begrenzte Zufallsvariablen gilt."
Ekvall
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.