Wenn Sie Bälle in Bins werfen, schätzen Sie eine Untergrenze ihrer Wahrscheinlichkeit

Dies ist keine Hausaufgabe, obwohl es so aussieht. Jede Referenz ist willkommen. :-)

Szenario: Es gibt $n$ verschiedene Bälle und $n$ verschiedene Behälter (beschriftet von 1 bis $n$ , von links nach rechts). Jeder Ball wird unabhängig und gleichmäßig in Behälter geworfen. Sei $f(i)$ die Anzahl der Kugeln im $i$ ten Behälter. Es sei $E_i$ das folgende Ereignis.

Für jeden $j\le i$ , $\sum_{k\le j}{f(k)} \le j-1$

Das heißt, die ersten $j$ Bins (die am weitesten links liegenden $j$ Bins) enthalten weniger als $j$ Balls für jedes $j\le i$ .

Frage: Schätze $\sum_{i<n}{Pr(E_i)}$ , ausgedrückt als $n$ ? Wenn $n$ unendlich wird. Eine untere Grenze wird bevorzugt. Ich glaube nicht, dass es eine einfach zu berechnende Formel gibt.

$\lim\limits_{n\to\infty}{Pr(E_1)}=\lim\limits_{n\to\infty}{(\frac{n-1}{n})^n}=\frac{1}{e}$$Pr(E_n)=0$

Meine Vermutung: Ich vermute , wenn unendlich wird. Ich habe die ersten Elemente in der Summe berücksichtigt .$\sum_{i<n}{Pr(E_i)}=\ln n$$n$$\ln n$

EDIT: (2014-08-08) Wie Douglas Zare in den Kommentaren ausführt, ist das folgende Argument, insbesondere die "Brücke" zwischen den beiden Wahrscheinlichkeiten, falsch. Ich sehe keinen direkten Weg, um das Problem zu beheben. Ich werde die Antwort hier lassen , wie ich es immer noch glauben , dass sie Intuition liefert, aber wissen , dass ist nicht im allgemeinen wahr.

$$\Pr(E_m) \le \prod_{l=1}^{m}\Pr(F_l)$$

---

Dies wird keine vollständige Antwort sein, aber es wird hoffentlich genug Inhalt geben, den Sie oder jemand, der über mehr Wissen als ich verfügt, zu Ende bringen kann.

Betrachten Sie die Wahrscheinlichkeit, dass genau Bälle in die ersten l (von n ) Bins fallen:$k$$l$$n$

$$\binom{n}{k} \left( \frac{l}{n} \right)^k \left(\frac{n-l}{n} \right)^{n-k}$$

Rufen Sie die Wahrscheinlichkeit , dass weniger als Kugeln fallen in den ersten l Behälter F l :$l$$l$$F_l$

$$\Pr(F_l) = \sum_{k=0}^{l-1} \binom{n}{k} \left( \frac{l}{n} \right)^k \left( \frac{n-l}{n} \right)^{n-k}$$

Die Wahrscheinlichkeit , dass das Ereignis, , oben auftritt , ist geringer , als wenn wir jede der betrachteten F l Ereignisse auftreten , unabhängig und auf einmal. Dies gibt uns eine Brücke zwischen den beiden:$E_l$$F_l$

$$\begin{array}{lll} \Pr(E_m) & \le & \prod_{l=1}^m \Pr(F_l) \\ & = & \prod_{l=1}^m \left( \sum_{k=1}^{l-1} \binom{n}{k} \left( \frac{l}{n}^k \right) \left( \frac{n-l}{n} \right)^{n-k} \right) \\ & = & \prod_{l=1}^m F(l-1; n, \frac{l}{n} ) \end{array}$$

Wobei ist diekumulative Verteilungsfunktion für die Binomialverteilungmitp=$F(l-1; n, \frac{l}{n})$ . Wennwirnur ein paar Zeilen weiter unten auf der Wikipedia-Seite lesen und feststellen, dass(l-1≤pn), können wirChernoffs Ungleichung verwenden, umFolgendeszu erhalten:$p = \frac{l}{n}$$(l-1 \le p n)$

$$\begin{array}{lll} \Pr(E_m) & \le & \prod_{l=1}^m \exp\left[ -\frac{1}{2l} \right] \\ & = & \exp\left[ - \frac{1}{2} \sum_{l=1}^m \frac{1}{l} \right] \\ & = & \exp\left[ - \frac{1}{2} H_m \right] \\ & \le & \exp\left[ -\frac{1}{2} \left( \frac{1}{2 m} + \ln(m) + \gamma \right) \right] \end{array}$$

Wo die ist m -te harmonische Zahl , γ ist die Euler-Mascheroni Konstante und die Ungleichheit für die H m von Wolframs MathWorld gelinkten Seite genommen wird.$H_m$$m$$\gamma$$H_m$

Nicht sich Gedanken über die Faktor, dies gibt uns schließlich:$e^{-1/4m}$

$$\Pr(E_m) \le \frac{ e^{ -\gamma/2}}{\sqrt{m}}$$

Nachfolgend ist ein Log-Log-Plot von durchschnittlich 100.000 Instanzen für als Funktion von m mit der Funktion e - γ /$n=2048$$m$ auch als Referenz eingezeichnet:$\frac{e^{ -\gamma/2}}{\sqrt{m}}$

Während die Konstanten deaktiviert sind, scheint die Form der Funktion korrekt zu sein.

Nachfolgend finden Sie ein Log-Log-Diagramm zum Variieren von wobei jeder Punkt der Durchschnitt von 100.000 Instanzen als Funktion von m ist :$n$$m$

Schließlich kommen wir zur ursprünglichen Frage, die Sie beantwortet haben möchten, da wir wissen, dass wir haben:$\Pr(E_m) \propto \frac{1}{\sqrt{m}}$

$$\sum_{i<n} \Pr(E_i) \propto \sqrt{n}$$

Und als numerische Verifikation ist unten ein Log-Log-Plot der Summe gegen die Instanzgröße n . Jeder Punkt repräsentiert den Durchschnitt der Summe von 100.000 Instanzen. Die Funktion x 1 / 2 wird als Referenz aufgetragen worden:$S$$n$$x^{1/2}$

Obwohl ich keinen direkten Zusammenhang zwischen den beiden sehe, haben die Tricks und die endgültige Form dieses Problems viele Gemeinsamkeiten mit dem Geburtstagsproblem, wie es ursprünglich in den Kommentaren vermutet wurde.

Die Antwort ist .$\Theta(\sqrt{n})$

Berechnen wir zunächst .$E_{n-1}$

Nehmen wir an, wir werfen Bälle in n Behälter und untersuchen die Wahrscheinlichkeit, dass ein Behälter genau k Bälle enthält. Diese Wahrscheinlichkeit ergibt sich aus der Poisson-Verteilung, und wenn n auf ∞ geht, beträgt die Wahrscheinlichkeit, dass sich genau k Bälle in einem gegebenen Bin befinden, $n$$n$$k$$n$$\infty$$k$.$\frac{1}{e} \frac{1}{ k!}$

Betrachten wir nun eine andere Art der Verteilung von Bällen in Behälter. Wir werfen eine Anzahl von Bällen in jeden Behälter, der aus der Poisson-Verteilung ausgewählt wurde, und unter der Bedingung, dass insgesamt Bälle vorhanden sind . Ich behaupte, dass dies genau die gleiche Verteilung ergibt, wie wenn man n Bälle in n Bins wirft . Warum? Es ist leicht zu erkennen, dass die Wahrscheinlichkeit, dass sich k j Bälle im j- ^ten Bin befinden, proportional zu ∏ n j = 1$n$$n$$n$$k_j$$j$in beiden Distributionen.$\prod_{j=1}^n \frac{1}{k_j!}$

Betrachten wir also eine zufällige Wanderung, bei der Sie bei jedem Schritt mit Wahrscheinlichkeit 1 von zu t + 1 - k gehen$t$$t+1-k$. Ich behaupte, dassdie Wahrscheinlichkeit, dass dieser Zufall immer über0bleibt, die Wahrscheinlichkeit ist, die das OP berechnen möchte, wenn Sie bedingen, dass dieser Zufallsrundgang nachnSchrittenauf 0 zurückkehrt. Warum? Diese Höhe dieses zufälligenSchrittesnachsSchritten istsminus der Anzahl der Bälle in den erstensBehältern.$\frac{1}{e}\frac{1}{k!}$$n$$0$$s$$s$$s$

Wenn wir einen zufälligen Spaziergang mit einer Wahrscheinlichkeit von von nach oben oder unten1auf jeden Schritt, würde dies das klassische seinWahl Problem, für die die Antwort ist$\frac{1}{2}$$1$ . Dies ist eine Variante des Stimmzettelproblems, das untersucht wurde (siehedieses Papier), und die Antwort lautet immer nochΘ($\frac{1}{2(n-1)}$. Ich weiß nicht, ob es einen einfachen Weg gibt, die Konstante fürΘ(1zu berechnen$\Theta\left(\frac{1}{n}\right)$für diesen Fall.$\Theta\left(\frac{1}{n}\right)$

Dasselbe Papier zeigt, dass die Wahrscheinlichkeit, immer positiv zu bleiben, Θ ( k / n ) ist , solange k = O ( √ ) ist , wenn der Zufallsrundgang so konditioniert ist, dass er auf Höhe endet$k$$\Theta(k/n)$. Diese Tatsache lässt unsEsfür jedessschätzen.$k = O(\sqrt{n})$$E_s$$s$

Ich werde für den Rest meiner Antwort ein wenig wackelig sein, aber Standardwahrscheinlichkeitstechniken können verwendet werden, um dies rigoros zu machen.

$n$$\infty$$0$$\epsilon n < s< (1-\epsilon)n$$\Theta(\sqrt{n})$$x$$t>0$$0$$s$$\Theta(t/s)$$t$$\Theta(\sqrt{n})$$s = \Theta(n)$$E_s \approx \Theta(1/\sqrt{n})$.

[Edit 2014-08-13: Dank eines Kommentars von Peter Shor habe ich meine Schätzung der asymptotischen Wachstumsrate dieser Serie geändert.]

Mein Glaube ist das $\lim_{n\to\infty} \sum_{i<n} \Pr(E_i)$ wächst als $\sqrt{n}$. Ich habe keinen Beweis, aber ich glaube, ich habe ein überzeugendes Argument.

Lassen $B_i = f(i)$ Sei eine Zufallsvariable, die die Anzahl der Bälle in bin angibt $i$. Lassen$B_{i,j} = \sum_{k=i}^j B_k$ Sei eine Zufallsvariable, die die Gesamtzahl der Bälle in Behältern angibt $i$ durch $j$ inklusive.

Sie können jetzt schreiben $\Pr(E_i) = \sum_{b<j} \Pr(E_j \wedge B_{1,j} = b) \Pr(E_i \mid E_j \wedge B_{1,j} = b)$ for any $j < i$. To that end, let's introduce the functions $\pi$ and $g_i$.

$$\pi(j, k, b) = \Pr(B_j = k \mid B_{1,j-1} = b) = \binom{n-b}{k}\left(\frac{1}{n-j+1}\right)^k\left(\frac{n-j}{n-j+1}\right)^{n-b-k}$$

$$\begin{aligned} g_i(j, k, b) \; &= \Pr(E_i \wedge B_{j,i} \le k \mid E_{j-1} \wedge B_{1,j-1} = b) \\ &= \begin{cases} 0 & k < 0 \\ 1 & k >= 0 \wedge j > i \\ \sum_{l=0}^{j-b-1} \pi(j, l, b) g_i(j + 1, k - l, b + l) & \mathrm{otherwise} \end{cases}\end{aligned}$$

Wir können schreiben $\Pr(E_i)$ bezüglich $g_i$:

$$\Pr(E_i) = g_i(1, i - 1, 0)$$

Nun ist es klar aus der Definition von $g_i$ Das

$$\Pr(E_i) = \frac{(n-i)^{n-i+1}}{n^n}h_i(n)$$

wo $h_i(n)$ ist ein Polynom in $n$ des Grades $i - 1$. Das ergibt auch einen intuitiven Sinn. mindestens$n - i + 1$ Bälle müssen in eines der Fächer gelegt werden $(i+1)$th durch $n$th Behälter (von denen gibt es $n-i$).

Da reden wir nur darüber $Pr(E_i)$ wann $n\to\infty$, nur der Bleikoeffizient von $h_i(n)$ist relevant; Nennen wir diesen Koeffizienten$a_i$. Dann

$$\lim_{n\to\infty} \Pr(E_i) = \frac{a_i}{e^i}$$

Wie berechnen wir? $a_i$? Nun, hier mache ich ein kleines Handwinken. Wenn Sie die ersten paar ausarbeiten$E_i$Sie werden sehen, dass bei der Berechnung dieses Koeffizienten ein Muster entsteht. Sie können es als schreiben

$$a_i = \mu_i(1, i-1, 0)$$ wo $$\mu_i(j, k, b) = \begin{cases} 0 & k < 0 \\ 1 & k >= 0 \wedge i > j \\ \sum_{l = 0}^{j-b-1} \frac{1}{l!} \mu_i(j + 1, k - l, b+ l) & \mathrm{otherwise} \end{cases}$$

Jetzt konnte ich kein geschlossenes Äquivalent direkt ableiten, aber ich habe die ersten 20 Werte von berechnet $Pr(E_i)$:

N       a_i/e^i
1       0.367879
2       0.270671
3       0.224042
4       0.195367
5       0.175467
6       0.160623
7       0.149003
8       0.139587
9       0.131756
10      0.12511
11      0.119378
12      0.114368
13      0.10994
14      0.105989
15      0.102436
16      0.0992175
17      0.0962846
18      0.0935973
19      0.0911231
20      0.0888353

Nun stellt sich heraus, dass

$$\DeclareMathOperator{\Pois}{Pois} \Pr(E_i) = \frac{i^i}{i! e^i} = \Pois(i; i)$$

wo $\Pois(i; \lambda)$ ist die Wahrscheinlichkeit, dass eine Zufallsvariable $X$ hat Wert $i$ wenn es aus einer Poisson-Verteilung mit dem Mittelwert gezogen wird $\lambda$. So können wir unsere Summe schreiben als

$$\lim_{n\to\infty} \sum_{i=1}^n \Pr(E_i) = \sum_{x = 1}^{\infty} \frac{x^x}{x!e^x}$$

Wolfram Alpha sagt mir, dass diese Serie divergiert . Peter Shor weist in einem Kommentar darauf hin, dass Stirlings Annäherung es uns erlaubt, abzuschätzen$\Pr(E_i)$:

$$\lim_{n\to\infty} \Pr(E_x) = \frac{x^x}{x!e^x} \approx \frac{1}{\sqrt{2 \pi x}}$$

Lassen

$$\phi(x) = \frac{1}{\sqrt{2 \pi x}}$$

Schon seit

• $\lim_{x\to\infty}\frac{\phi(x)}{\phi(x+1)} = 1$
• $\phi(x)$ wird weniger
• $\int_1^n \phi(x)dx \to \infty$ wie $n \to \infty$

Unsere Serie wächst als $\int_1^n \phi(x) dx$(Siehe zB Satz 2 ). Das ist,

$$\sum_{i=1}^n Pr(E_i) = \Theta\left(\sqrt{n}\right)$$

Eine gründliche Prüfung der ersten Begriffe (durch Untersuchen aller n ^ n Fälle) und ein wenig Nachschlagen zeigt, dass die Antwort https://oeis.org/A036276 / lautet .$n^n$. Dies impliziert, dass die Antwort lautet$\sim n^{\frac{1}{2}} \frac{\sqrt{\pi}}{2}$.

Genauer gesagt lautet die Antwort:

$$\frac{n!}{2 n^n} \sum_{k=0}^{n-2}\frac{n^k}{k!}$$ und es gibt keine geschlossene Antwort.