Konfidenzintervalle für den Median

Ich habe eine Verteilung von Proben mit einer kleinen Anzahl von Werten in jeder (weniger als ). Ich habe den Median für jede Stichprobe berechnet, den ich mit einem Modell vergleichen und die Differenz zwischen dem Modell und dem Median jeder Stichprobe ermitteln möchte. Um ein konsistentes Ergebnis zu erzielen, benötige ich einen Fehler in Bezug auf diesen Unterschied.$10$

Dies führt dazu, dass es in einem solchen Fall ziemlich schwierig sein kann, die Standardabweichung zu finden, zumindest für einen Nicht-Profi wie mich (siehe zum Beispiel hier ).

Ich habe diese Website gefunden, auf der angegeben ist, wie Konfidenzintervalle für den Median berechnet werden, auch wenn keine offizielle Referenz angegeben ist.

Es scheint mir vernünftig, aber ich kann es nicht wirklich beurteilen, deshalb würde ich gerne wissen:

1. Sind diese Formeln korrekt?
2. Gibt es eine Referenz dafür?
3. Was ist, wenn ich CI anders als finden möchte ?$95\%$

Danke im Voraus

EDIT: Ich habe auch dieses Beispiel für Bootstrapping für nicht-Gaußsche Daten gefunden . Jetzt weiß ich nicht viel über Bootstrapping, aber es wäre gut, eine Adresse über deren Gültigkeit zu haben.

Zusammenfassung

Wenn Sie wenig oder gar nichts über das wahre Wahrscheinlichkeitsgesetz annehmen und wenig daraus schließen können - was bei kleinen Stichproben von Beobachtungen der Fall ist -, bildet ein geeignet ausgewähltes Paar von Ordnungsstatistiken ein Konfidenzintervall für den Median. Welche Ordnungsstatistik zu wählen ist, kann mit einer schnellen Analyse der Binomialverteilung leicht gefunden werden . In der Praxis müssen einige Entscheidungen getroffen werden: Diese werden am Ende dieses Beitrags erörtert und veranschaulicht.( n , 1 / 2 $n$$(n, 1/2)$

Im Übrigen kann dieselbe Analyse verwendet werden, um Konfidenzintervalle für jedes Quantil zu konstruieren (von denen der Median, der , ein Beispiel ist). Die Binomialverteilung in diesem Fall die Lösung.q = 50 % ( n , q $q$$q=50\%$$(n, q)$

Einführung

Denken Sie daran, was ein Konfidenzintervall (CI) bedeutet. Die Einstellung ist eine unabhängige Zufallsstichprobe wobei jedes von derselben Verteilung . Es wird nur angenommen, dass ein Element einer Menge möglicher Verteilungen ist. Jeder von ihnen hat einen Median . Für jedes feste zwischen und ist ein CI der Stufe ein Funktionspaar (auch "Statistik" genannt), und , so dassX i F F Ω F 1 / 2 α 0 1 α L $X = (X_1, X_2, \ldots, X_n)$$X_i$$F$$F$$\Omega$$F_{1/2}$$\alpha$$0$$1$$\alpha$$L$$U$

$${\Pr}_F(L(X)\le F_{1/2} \le U(X)) \ge 1 - \alpha.$$

Die rechte Seite ist die Abdeckung des CI für die Verteilung .$F$

Abgesehen davon: Damit dies nützlich ist, bevorzugen wir auch, dass (1) das Infimum der Bedeckungen über so klein wie möglich ist und (2) die erwartete Länge des Intervalls sollte dazu neigen, für alle oder "die meisten" .$F\in\Omega$$\mathbb{E}_F(U(X)-L(X))$$F\in\Omega$

Analyse

Angenommen, wir nehmen nichts über . $\Omega$ In dieser Situation können wir die Auftragsstatistik weiterhin nutzen . Dies sind die spezifischen Werte in der sortierten Stichprobe. Um die Notation zu vereinfachen, sortieren wir das Sample ein für alle Mal, damit

$$X_1 \le X_2 \le \cdots \le X_n.$$

Der Wert ist die Ordnungsstatistik der Stichprobe. Da wir nichts über annehmen , wissen wir zunächst nichts über , so dass wir nicht viel über die wahrscheinlichen Intervalle zwischen jedem und seinem Nachbarn . Wir können jedoch immer noch quantitativ über die einzelnen Werte nachdenken: Wie ist die Wahrscheinlichkeit, dass den Median von nicht überschreitet ? Um dies herauszufinden, sei eine Zufallsvariable, die von regiert wird , und sei$X_i$$i^\text{th}$$\Omega$$F$$X_i$$X_{i+1}$$X_i$$F$$Y$$F$

$$\pi_F = {\Pr}_F(Y \le F_{1/2})$$

sei die Chance, dass den Median von nicht überschreitet . Wenn dann , wissen wir (seit ), dass unsere ursprüngliche ungeordnete Stichprobe von Werten mindestens Werte enthalten muss, die nicht überschreiten. .$Y$$F$$X_i \le F_{1/2}$$X_1\le \cdots \le X_i \le F_{1/2}$$n$$i$$F_{1/2}$

Dies ist ein Binomialproblem. Wenn wir die Zufallsvariable so definieren , dass sie gleich wenn und andernfalls , zeigt das Vorstehende, dass eine Bernoulli-Verteilung mit dem Parameter . Ein "Erfolg" besteht darin, einen Wert am oder unter dem Median zu beobachten. Daher ist durch die Binomialwahrscheinlichkeit gegeben, die mit weniger als Erfolgen verbunden ist:$Z$$1$$Y \le F_{1/2}$$0$$Z$$\pi_F$$\Pr(X_i \gt F_{1/2})$$i$

$$\Pr(X_i \gt F_{1/2}) = \sum_{j=0}^{i-1} \binom{n}{j} \pi_F^j(1-\pi_F)^{n-j}.$$

Sie haben wahrscheinlich bemerkt, dass . Tatsächlich sind für viele Verteilungen die beiden Werte gleich: Sie unterscheiden sich nur, wenn dem Median eine positive Wahrscheinlichkeit zuweist . Um den Unterschied zu analysieren, schreiben Sie für . Für impliziert dies$\pi_F \ge 1/2$$F$$F_{1/2}$$\pi_F = 1/2 + \varepsilon$$\varepsilon \ge 0$$2(j-1) \le n$

$$\eqalign{ \pi_F^j(1-\pi_F)^{n-j} &= (1/2+\varepsilon)^j(1/2-\varepsilon)^{n-j} = (1/2+\varepsilon)^j[(1/2-\varepsilon)^j(1/2-\varepsilon)^{n-2j}]\\ &=(1/4-\varepsilon^2)^j(1/2-\varepsilon)^{n-2j} \le (1/4)^j(1/2)^{n-2j}=2^{-n}. }$$

Wenn also , können wir die Abhängigkeit der Summe von auf Kosten des Ersetzens der Gleichheit durch eine Ungleichung beseitigen:$2(i-1) \le n$$F$

$$\Pr(X_i \gt F_{1/2}) \le 2^{-n}\sum_{j=0}^{i-1} \binom{n}{j}.$$

Genau das gleiche Argument (angewendet durch Umkehren der Ordnungsstatistik) zeigt, dass wenn ,$2(i+1) \ge n$

$$\Pr(X_i \lt F_{1/2}) \le 2^{-n}\sum_{j=i+1}^n \binom{n}{j}.$$

Die rechten Seiten werden immer dann auf Null reduziert, wenn (im ersten Fall) oder (im zweiten Fall ). Daher ist es immer möglich , Indizes zu finden , für die$i \le 0$$i \ge n$$l \le u$

$$\eqalign{ \Pr(X_l \gt F_{1/2} \text{ or } X_u \lt F_{1/2}) &= \Pr(X_l \gt F_{1/2}) + \Pr( X_u \lt F_{1/2}) \\ &\le 2^{-n}\left(\sum_{j=0}^{l-1} \binom{n}{j} + \sum_{j=u+1}^n \binom{n}{j}\right). }$$

Lösung

Dies ist die Ergänzung der definierenden Bedingung für ein Konfidenzintervall und daher äquivalent dazu:

$$\Pr(X_l \le F_{1/2}\le X_u ) \ge 2^{-n}\sum_{j=l}^u \binom{n}{j}.$$

Durch Auswahl von , um die rechte Seite auf mindestens , haben wir ein Konfidenzintervallverfahren gefunden, dessen Pegel mindestens beträgt .$l \le u$$1-\alpha$ $1-\alpha$

Mit anderen Worten, bei Auswahl solcher Indizes und durch Setzen von und ist das Intervall ein CI für den Median mit einer Abdeckung von mindestens . Sie können die tatsächliche Abdeckung anhand der Binomialwahrscheinlichkeiten berechnen. Diese Abdeckung wird für jede Verteilung die (die alle kontinuierlichen Verteilungen enthält) eine Wahrscheinlichkeit von Null zuweist . Es wird von jedem überschritten , das Wahrscheinlichkeit ungleich Null zuweist .$l$$u$$L(X) = X_l$$U(X) = X_u$$[L(X), U(X)]$$F_{1/2}$$1-\alpha$$F$$F_{1/2}$$F$$F_{1/2}$

Diskussion

An diesem Punkt haben wir einige Möglichkeiten. Am gebräuchlichsten ist es, die Grenzen symmetrisch zu machen, indem relativ nahe an . Tatsächlich können durch Festlegen von die Konfidenzgrenzen für jedes mit einer schnellen Suche oder durch Anwenden der Binomialquantilfunktion gefunden werden.$u$$n+1-l$$u=n+1-l$$n$

Zum Beispiel sei und (um eine CI-Prozedur zu veranschaulichen ). Lassen Sie uns den unteren Teil der kumulativen Binomialverteilung mit den Parametern und :$n=10$$\alpha=10\%$$1-\alpha=90\%$$10$$1/2$

> i <- 0:5; names(i) <- i; print(pbinom(i, 10, 1/2), digits=1)
    0     1     2     3     4     5   
0.001 0.011 0.055 0.172 0.377 0.623 

(Dies ist ein RBefehl und seine Antwort.) Da der Wert bei , der , nahe bei , ist es verlockend, und , z dann beträgt die Abdeckung was nahe am Ziel von . Wenn Sie die gewünschte Abdeckung erreichen müssen , müssen Sie und oder und , beide mit einer Abdeckung von .$2$$5.5\%$$\alpha/2$$l=3$$u=10+1-3=8$$1 - 0.055 - 0.055 = 0.89$$90\%$$l=2$$u=8$$l=3$$u=9$$1 - 0.011 - .055 = 0.935$

Lassen Sie uns zur Überprüfung viele Datensätze aus jeder Verteilung simulieren, diese CIs für die Datensätze berechnen und den Anteil der CIs berechnen, die den wahren Median abdecken. In diesem RBeispiel wird eine Normalverteilung verwendet:

n <- 10
n.sim <- 1e4
x <- apply(matrix(rnorm(n*n.sim), nrow=n), 2, sort)
covers <- function(x, l, u) mean(x[l, ] <= 0 & x[u, ] >= 0)
c(l3.u8=covers(x,3,8), l2.u8=covers(x,2,8), l3.u9=covers(x,3,9))

Die Ausgabe ist

 l3.u8  l2.u8  l3.u9 
 0.8904 0.9357 0.9319 

Die Deckungen stimmen eng mit den theoretischen Werten überein.

Als weiteres Beispiel ziehen wir Stichproben aus einer diskreten Verteilung, z. B. einem Poisson:

lambda <- 2
x <- apply(matrix(rpois(n*n.sim, 2), nrow=n), 2, sort)
med <- round(lambda + 1/3 - 0.02/lambda)
c(l3.u8=covers(x,3,8), l2.u8=covers(x,2,8), l3.u9=covers(x,3,9))

 l3.u8  l2.u8  l3.u9 
0.9830 0.9845 0.9964 

Diesmal sind die Deckungen viel höher als erwartet. Der Grund dafür ist , dass es eine Chance , dass ein Zufallswert ist gleich dem Median. Dies erhöht die Wahrscheinlichkeit, dass der CI den Median abdeckt, erheblich. Dies ist kein Problem oder Paradoxon. Per Definition muss die Abdeckung mindestens betragen, unabhängig von der Verteilung - aber es ist möglich (wie in diesem Fall), dass die Abdeckung für bestimmte Verteilungen wesentlich größer als .$27\%$$1-\alpha$$F$$1-\alpha$

Darin liegt der Kompromiss: Wenn Sie nichts über annehmen , ist das auf Auftragsstatistiken basierende CI das einzige, das Sie erstellen können. Die Abdeckung für Ihr wahres (aber unbekanntes) möglicherweise etwas höher als erwartet. Das bedeutet, dass Ihr CI breiter ist, als wenn Sie einige stärkere Annahmen über indem Sie die Möglichkeiten für .$F$$F$$\Omega$$F$

Wenn Sie numerische Methoden verwenden möchten, können Sie mithilfe von Bootstrap eine Schätzung der Samping-Verteilung von Medianen erstellen. Wiederholen Sie die Stichprobe wiederholt und berechnen Sie viele Mediane. Der Standardwert dieser Mediane dient als Schätzung des Standardwerts der Stichprobenverteilung der Mediane. Ich habe eine ähnliche Methode verwendet, um die Unsicherheit der Ergebnisse von Schachspielen in meinem Artikel über Schachspiele zu berechnen, den Sie hier finden: https://sonoma.academia.edu/JamalMunshi/papers