Erwartete Häufigkeit, mit der der empirische Mittelwert einen Wert überschreitet

Bei einer gegebenen Folge von iid-Zufallsvariablen sagen wir $X_i \in [0,1]$ für $i = 1,2,...,n$ , ich versuche die erwartete Anzahloft die empirischen Mittelwert gebunden$\frac{1}{n}\sum_{i=1}^n X_i$überschreitet einen Wert,$c \geq 0$, wenn wir weiterhin Proben zeichnen, dh:

$$\mathcal{T} \overset{def}{=} \sum_{j=1}^n \mathbb{P} \left(\left\{ \frac{1}{j}\sum_{i=1}^j X_i \geq c\right\}\right)$$

Wenn wir annehmen, dass $c = a + \mathbb{E}[X]$ für einige $a > 0$ , können wir Hoeffdings Ungleichung verwenden , um zu erhalten

$$\begin{align} \mathcal{T} & \leq \sum_{j=1}^n e^{-2ja^2} \\ & = \frac{1 - e^{-2 a^2 n}}{e^{2 a^2}-1} \end{align}$$

Was (vielleicht) gut aussieht, aber eigentlich ziemlich locker gebunden ist, gibt es bessere Möglichkeiten, diesen Wert zu begrenzen? Ich gehe davon aus, dass es einen Weg geben kann, da die verschiedenen Ereignisse (für jedes $j$ ) eindeutig nicht unabhängig sind. Mir ist kein Weg bekannt, diese Abhängigkeit auszunutzen. Es wäre auch schön, die Einschränkung zu entfernen, dass $c$ größer als der Mittelwert ist.

edit : Die Einschränkung auf größer als der Mittelwert ist, kann aufgehoben werden, wenn wirMarkovs Ungleichungwie folgt verwenden:$c$

Was allgemeiner ist, aber viel schlimmer als die oben angegebene Grenze, obwohl klar ist, dassTimmer dann divergieren muss, wennc≤E[X] ist.

$$\begin{align} \mathcal{T} & \leq \sum_{j=1}^n \frac{\frac{1}{j}\mathbb{E}[X]}{c} \\ & = \frac{\mathbb{E}[X]H_n}{c} \end{align}$$ $\mathcal{T}$$c \leq \mathbb{E}[X]$

Dies ist ein ziemlich handgemachter Ansatz, und ich würde mich sehr über einen Kommentar dazu freuen (und die kritisierenden sind normalerweise die hilfreichsten). Wenn ich das richtig verstehe, berechnet das OP die Stichprobenmittelwerte , wobei jede Stichprobe die vorherige Stichprobe +1 Beobachtung aus einem neuen rv enthält. Bezeichnen Sie F j die Verteilung jedes Stichprobenmittelwerts. Dann können wir schreiben $\bar x_j$$F_j$

$$\mathcal{T} \overset{def}{=} \sum_{j=1}^n \left(1-F_j(c)\right) = n- \sum_{j=1}^n F_j(c)$$

Betrachten wir eine Stichprobengröße , nach der die Verteilung der Probe Mittelwert fast normal ist, bezeichnen es $m$$\hat G$ . Dann können wir schreiben

$$\mathcal{T} = n- \sum_{j=1}^m F_j(c)-\sum_{j=m+1}^n \hat G_j(c) < n-\sum_{j=m+1}^n \hat G_j(c)$$

Die Lösung G j ( c ) erhalten wir G j ( c ) = 1 - Φ ( √$\hat G_j(c)$ wobeiΦdie Standardnormal-cdf ist,σdie Standardabweichung des iid-Prozesses ist undμsein Mittelwert ist. Einfügen in die Bindung und Neuanordnung erhalten wir

$$\hat G_j(c) = 1- \Phi\left(\frac{\sqrt j}{\sigma}(\mu-c)\right)$$ $\Phi$$\sigma$$\mu$

$$\mathcal{T} < m+\sum_{j=m+1}^n \Phi\left(\frac{\sqrt j}{\sigma}(-a)\right)$$

Beachten Sie, dass diese Grenze auch von der Varianz des Prozesses abhängt. Ist dies eine bessere Bindung als die in der Frage dargestellte? Dies hängt entscheidend davon ab, wie "schnell" die Verteilung des Stichprobenmittelwerts "fast normal" wird. Um ein numerisches Beispiel zu geben, nehmen wir an, dass . Angenommen, die Zufallsvariablen sind in [ 0 , 1 ] einheitlich . Dann ist σ = $m= 30$$[0,1]$ undμ=$\sigma = \sqrt \frac{1}{12}$$\mu = \frac 12$$a=0.05$$n=34$$n>30$$n=100$$78.5$$36.2$$\approx 199.5$$\approx 38.5$$a$$a=0.1$ , der Hoeffding konvergent gebunden$49.5$ while the bound I propose converges to $30.5$ (i.e the sum of the normal cdfs contributes very little to the overall bound).
Somewhat more generally, we note that for $n\rightarrow \infty$ the Hoeffding bound converges to

$$H_b\rightarrow \frac{1}{e^{2 a^2}-1}$$ while my bound to $$A_b \rightarrow m$$

Since for small values of $a$ (which is rather the case of interest) $H_b$ becomes a large number, there is still the case that $A_b$ may outperform it in tightness, even if the sample is such that the distribution of the sample mean converges slowly to the normal distribution.