Warum sollten die Daten beim Testen der Bootstrap-Hypothese unter Nullhypothese neu abgetastet werden?

Die einfache Anwendung des Bootstrap - Verfahrens zur Überprüfung der Hypothese ist das Konfidenzintervall der Teststatistik zu schätzen θ , indem wiederholt auf Bootstrap Proben Berechnung (Let die Statistik θ aus Bootstrap abgetastet aufgerufen werden ^ θ * ). Wir lehnen H 0 ab, wenn der hypothetische Parameter θ 0 (der normalerweise gleich 0 ist) außerhalb des Konfidenzintervalls von ^ θ ∗ liegt .$\hat{\theta}$$\hat{\theta}$$\hat{\theta^*}$$H_0$$\theta_0$$\hat{\theta^*}$

Ich habe gelesen, dass dieser Methode etwas Kraft fehlt. In dem Artikel von Halle P. und Wilson SR „Zwei Richtlinien für die Bootstrap Hypothesentests“ (1992) wird sie als die erste Leitlinie geschrieben, dass ein Resampling sollte $\hat{\theta^*} - \hat{\theta}$ , nicht die $\hat{\theta^*} - \theta_0$ . Und das ist der Teil, den ich nicht verstehe.

Ist das nicht der $\hat{\theta^*} - \hat{\theta}$ misst nur die Vorspannung der Schätzer $\hat{\theta^*}$ ? Für unvoreingenommene Schätzer die Konfidenzintervalle dieser Ausdruck sollte immer kleiner sein als $\hat{\theta^*} - \theta_0$ , aber ich sehe nicht, was es zu tun hat mit dem Testen$\hat{\theta}=\theta_0$? Ich kann nirgends sehen, dass wir Informationen über$\theta_0$.

Für diejenigen unter Ihnen, die keinen Zugang zu diesem Artikel haben, ist dies ein Zitat des relevanten Absatzes, der unmittelbar nach der Arbeit kommt:

Um zu verstehen, warum dies wichtig ist, beachten Sie, dass der Test die Zurückweisung von beinhaltet, $H_0$wenn in $\left| \hat{\theta} - \theta_0\right|$ es ist zu groß." Wenn $\theta_0$ weit vom wahren Wert von $\theta$ (dh wenn $H_0$ grob der Fehler ist), dann ist die Differenz $\left|\hat{\theta} - \theta_0 \right|$wird im Vergleich zur nichtparametrischen Bootstrap-Distribution von nie viel zu groß aussehen Θ - θ 0 $\left| \hat{\theta} - \theta_0\right|$. Ein aussagekräftigerer Vergleich ist mit der Verteilung von$\left| \hat{\theta^*} - \hat{\theta}\right|$. Wenn der wahre Wert von$\theta$; thgr ; $\theta_1$ ist, erhöht sich die Leistung des Bootstrap-Teststatsächlichauf 1 als$\left|\theta_1 - \theta_0\right|$erhöht sich, sofern der Test auf Resampling basiert $\left| \hat{\theta^*} - \hat{\theta}\right|$, aber die Leistung nimmt auf höchstens das Signifikanzniveau ab (wenn$\left|\theta_1 - \theta_0\right|$ zunimmt), wenn der Test auf Resampling | basiert θ -$\left|\hat{\theta} - \theta_0\right|$

Dies ist das Prinzip der Bootstrap-Analogie. Die (unbekannt) wahre Verteilung zugrundeliegenden erzeugt eine Probe zur Hand x 1 , ... , x n mit cdf F n , die wiederum erzeugt die Statistik θ = T ( F n ) für einige funktionelle T ( ⋅ ) . Ihre Idee, den Bootstrap zu verwenden, besteht darin, Aussagen über die Stichprobenverteilung basierend auf einer bekannten Verteilung ˜ F zu treffen$F$$x_1, \ldots, x_n$$F_n$$\hat\theta=T(F_n)$$T(\cdot)$$\tilde F$Wenn Sie versuchen, ein identisches Stichprobenprotokoll zu verwenden (was nur für ID-Daten genau möglich ist; abhängige Daten führen immer zu Einschränkungen bei der Genauigkeit der Wiedergabe des Stichprobenprozesses) und dasselbe funktionale anwenden . Ich habe es in einem anderen Beitrag mit einem übersichtlichen Diagramm demonstriert . So ist der Bootstrap - Analogon der (Sampling + systematischen) Abweichung θ - θ 0 , die Menge des zentralen Interesses ist die Abweichung der Bootstrap - Replikation θ * von dem, was für die Verteilung um wahr zu sein bekannt ist ~ F , die Probenahme Prozess, den Sie angewendet haben, und die funktionale$T(\cdot)$$\hat\theta - \theta_0$$\hat\theta^*$$\tilde F$$T(\cdot)$Das heißt, Ihr Maß für die zentrale Tendenz ist . Wenn Sie den nichtparametrischen Standard-Bootstrap mit Ersetzung aus den Originaldaten verwendet haben, ist ˜ F = F n , sodass Ihr Maß für die zentrale Tendenz T ( F n ) $T(\tilde F)$$\tilde F=F_n$ auf der Grundlage der ursprünglichen Daten.$T(F_n) \equiv \hat \theta$

Neben der Übersetzung gibt es subtilere Probleme bei den Bootstrap-Tests, die manchmal schwer zu überwinden sind. Die Verteilung einer Teststatistik unter der Null kann sich drastisch von der Verteilung der Teststatistik unter der Alternative unterscheiden (z. B. bei Tests an der Grenze des Parameterraums, die mit dem Bootstrap fehlschlagen ). Die einfachen Tests, die Sie in Grundschulklassen wie Test lernen, sind unter Verschiebung unveränderlich, aber der Gedanke "Heck, ich verschiebe einfach alles" schlägt fehl, sobald Sie zur nächsten Stufe der konzeptionellen Komplexität übergehen müssen, den asymptotischen χ 2- Tests. Denken Sie darüber nach: Sie testen, dass μ = 0 und Ihr beobachtetes ˉ x$t$$\chi^2$$\mu=0$ . Dannwenn Sie ein Konstrukt χ 2 - Test ( ˉ x - μ ) 2 / ( s 2 / n ) ≡ ˉ x 2 / ( s 2 / n ) mit der BootstrapAnalog ˉ x 2 * / ( s 2 * / n ) , dann hat dieser Test eine eingebaute Nichtzentralität von n ˉ x 2 / s $\bar x=0.78$$\chi^2$$(\bar x-\mu)^2/(s^2/n) \equiv \bar x^2/(s^2/n)$$\bar x_*^2/(s_*^2/n)$$n \bar x^2/s^2$von Anfang an, anstatt ein zentraler Test zu sein, wie wir es erwarten würden. Um den Bootstrap-Test zentral zu machen, müssen Sie die ursprüngliche Schätzung wirklich subtrahieren.

Die -Tests sind in multivariaten Kontexten unvermeidbar und reichen von Pearson χ 2 für Kontingenztabellen bis zum Bollen-Stine-Bootstrap der Teststatistik in Strukturgleichungsmodellen. Das Konzept der Verschiebung der Verteilung ist in diesen Situationen äußerst schwer gut zu definieren ... obwohl dies bei den Tests an den multivariaten Kovarianzmatrizen durch eine geeignete Rotation möglich ist .$\chi^2$$\chi^2$

OK, I've got it. Thank you, StasK, for such a good answer. I'll keep it accepted for others to learn, but in my particular case I was missing a very simple fact:

The procedure of bootstrap in accordance to Hall&Wilson guidelines for simple one-sampled mean test is this (in R-inspired pseudo code):

1function(data, $\theta_0$ ) {
2 $\hat{\theta} \leftarrow$ t.test(data, mu = $\theta_0$ )$statistic
3 count $\leftarrow 0$
4for(i in 1:1000){
5 bdata $\leftarrow$ sample(data)
6 $\hat{\theta^*} \leftarrow$ t.test(bdata, mu = $\hat{\theta}$ )$statistic
7 if ( $\hat{\theta^*} \le \hat{\theta}$ ) count++
8 }
9 count/1000
10 }

The part I missed was that the $\theta_0$ was "used" in line 2 (where we set the reference $\hat{\theta}$).

It is interesting to note, that in the line 2 and 6 we could equally easily use p.value instead of statistic. In that case we should also change the $\le$ into $\ge$ in line 7.