Wann / warum unterscheidet sich die zentrale Tendenz einer Resampling-Simulation deutlich vom beobachteten Wert?

Sollte man immer erwarten, dass die zentrale Tendenz (dh der Mittelwert und / oder der Median) einer Bootstrap-Probe dem beobachteten Wert ähnlich ist?

In diesem speziellen Fall habe ich Antworten, die für Probanden unter zwei Bedingungen exponentiell verteilt sind (ich habe das Experiment nicht durchgeführt, ich habe nur die Daten). Ich wurde beauftragt, die Effektgröße zu booten (in Bezug auf Cohens d, die Ein-Stichproben-Formel, dh wobei die Stichprobenschätzung der Populationsstandardabweichung ist. Das Forum dafür ist bereitgestellt in Rosenthal & Rosnow (2008) auf S. 398, Gleichung 13.27. Sie verwenden im Nenner, weil es historisch korrekt ist, jedoch hat die Standardpraxis d als Verwendung von falsch definiert , und so folge ich diesem Fehler in der obigen Berechnung . $\bar{M_D}\over{s_D}$ $\sigma$ $s$

Ich habe sowohl innerhalb der Teilnehmer (dh die RT eines Teilnehmers kann mehr als einmal beprobt werden) als auch zwischen den Probanden (Teilnehmer können mehr als einmal beprobt werden) so randomisiert, dass selbst wenn Teilnehmer 1 zweimal beprobt wird, ihre mittlere RT in beiden Stichproben unwahrscheinlich ist genau gleich. Für jeden randomisierten / neu abgetasteten Datensatz berechne ich d neu. In diesem Fall ist . Was ich beobachte, ist ein Trend, dass der beobachtete Wert von Cohens d typischerweise näher am 97,5-Perzentil von als am 2,5-Perzentil der simulierten beobachteten Werte liegt. Es liegt auch tendenziell näher bei 0 als der Median des Bootstraps (um 5% bis 10% der Dichte der simulierten Verteilung). $N_{sim} = 10000$

Was kann das erklären (unter Berücksichtigung des Ausmaßes des Effekts, den ich beobachte)? Liegt es daran, dass es beim erneuten Abtasten „einfacher“ ist, extremere Varianzen zu erhalten als bei der erneuten Abtastung in Bezug auf die äußersten Mittelwerte? Könnte dies ein Spiegelbild von Daten sein, die übermäßig massiert / selektiv getrimmt wurden? Entspricht dieser Resampling-Ansatz einem Bootstrap? Wenn nicht, was muss noch getan werden, um ein CI zu erstellen?

— russellpierce
quelle

Jede nichtlineare Statistik (eine nichtlineare Kombination linearer Statistiken wie Stichprobenmittel) weist eine geringe Stichprobenverschiebung auf. Cohens ist offensichtlich keine Ausnahme: Es ist im Wesentlichen $d$ was ziemlich nichtlinear ist, zumindest was die Terme im Nenner angeht. Jeder der Momente kann als unvoreingenommener Schätzer dessen angesehen werden, was geschätzt werden soll:

d = \frac{m_{1} - - m_{2}}{\sqrt{m_{3} - - m_{4}^{2}}}

$d=\frac{m_1 - m_2}{\sqrt{m_3-m_4^2}}$

Durch Jensens Ungleichung gibt es jedoch keine Möglichkeit auf der Erde, einen unvoreingenommenen Schätzer der Populationsmenge aus einer nichtlinearen Kombination zu erhalten. Somit ist

Population

in endlichen Stichproben, obwohl die Vorspannung typischerweise in der Größenordnung von

. Der Wikipedia-Artikel über Effektgrößenerwähnt die kleinen Stichprobenverzerrungen bei der Diskussion von Hedges '

\begin{array}{ll} m_{1} & = \frac{1}{n_{1}} \sum_{ich \in Gruppe 1} y_{ich}, \\ m_{2} & = \frac{1}{n_{2}} \sum_{ich \in Gruppe 2} y_{ich}, \\ m_{3} & = \frac{1}{n_{1} + n_{2}} \sum_{ich} y_{ich}^{2}, \\ m_{4} & = \frac{1}{n_{1} + n_{2}} \sum_{ich} y_{ich}, \end{array}

$\begin{array}{ll} m_1 & = \frac1{n_1} \sum_{i\in\mbox{group }1} y_i , \\ m_2 & = \frac1{n_2} \sum_{i\in\mbox{group }2} y_i , \\ m_3 & = \frac1{n_1+n_2} \sum_{i} y_i^2 , \\ m_4 & = \frac1{n_1+n_2} \sum_{i} y_i , \\ \end{array}$

E [d] \neq

${\mathbb{E}}[ d]\neq$

d

$d$

O (1 / n)

$O(1/n)$

g

$g$

$d$ $d$ $\pm 2$ $1/n$

Was Bootstrap auf wundersame Weise tut, wenn man bedenkt, dass es sich um eine so einfache Methode handelt, ist, dass Sie diese endliche Stichprobenverschiebung durch Vergleich des Bootstrap-Mittelwerts und der Schätzung aus der ursprünglichen Stichprobe abschätzen können. (Beachten Sie jedoch, dass erstere , sofern Sie keine besonderen Anpassungen an der Einrichtung der Bootstrap-Stichprobe vornehmen , der Variabilität von Monte Carlo unterliegen.) Ich habe in einer anderen Bootstrap-Frage detailliertere und technischere Erklärungen gegeben, die ohnehin lesenswert sein könnten.

$d$ $\hat\theta_n$ $\bar\theta^*_n$ $\hat b_n=\bar\theta^*_n-\hat\theta_n$ $\hat\theta_n - \hat b_n=2\hat\theta_n - \bar\theta^*_n$

— StasK
quelle

Mir war bereits bewusst, dass Cohens d eine voreingenommene Statistik war. Ich schätze die Details bezüglich der Gründe, warum es voreingenommen ist. Trotzdem bin ich ein wenig skeptisch, dass es in dem Maße voreingenommen ist, wie ich es beobachte. Der Wikipedia-Artikel definiert kein 'a' in der referenzierten Gleichung. Darüber hinaus scheinen die referenzierte und Ihre Gleichung auf die beiden Beispielversionen von Cohens d zu verweisen. Ich bin mir also nicht sicher, welches Ausmaß an Voreingenommenheit ich in diesem Fall erwarten sollte und ob Ihre Antwort den Unterschied abdeckt, den ich sehe.

— Russellpierce

Ich bin mir auch nicht sicher, wie ich Ihre letzten beiden Absätze kombinieren soll. Mit Bootstrap können Sie die Verzerrung abschätzen, aber es werden auch Ergebnisse erzielt, die voreingenommener sind als die ursprüngliche Stichprobe.

— Russellpierce

a

$a$

a

$a$

d

$d$

a

$a$

O (1 / n)

$O(1/n)$

O (1 / n)

$O(1/n)$

1 / n

$1/n$

1 - 10^{8} / n

$1-10^8/n$

a

$a$

i

$i$

x

$x$

J (a)

$J(a)$ ist eine Abkürzung für das Verhältnis der Gammafunktionen.

— StasK