Die Anzahl der Exponentialsummierungen in einem festen Intervall ist Poisson

Was ist der klügste Weg, um zu beweisen, dass die Anzahl unabhängiger Exponentialsummen in einem festen Intervall als Poisson-Zufallsvariable verteilt ist? Ich kann es auf eine Weise tun, aber ich würde gerne wissen, ob es eine andere Möglichkeit gibt, die mehr Stilpunkte bringt.

Lassen $S_1, S_2, \ldots \overset{iid}{\sim} \text{Exponential}(\mu)$. Um ganz klar zu sein, die Dichten sind jeweils$f_S(s) = \mu e^{-\mu s}$. Jetzt für$t > 0$, definieren $K_t = \{j : S_1 + \cdots S_j < t < S_1 + \cdots + S_j + S_{j+1}\}$.

Ich kann dies tun, indem ich die Gelenkdichte der Exponentiale direkt integriere. Zum Beispiel,

$$P(K_t = 1) = P(S_1 < t < S_1 + S_2) = \int_0^t \int_{t-s_1}^{\infty} \mu e^{-\mu s_1}\ \mu e^{-\mu s_2}\ ds_2\ ds_1 = (\mu t) e^{\mu t}.$$ Aber gibt es einen anderen Weg?

Bearbeiten: Dies ist ein bekanntes Ergebnis grundlegender Poisson-Prozesse. Diese Tatsache war Motivation für die Frage. Im Idealfall hängen Antworten also nicht von Ergebnissen von Poisson oder anderen stochastischen Prozessen ab.

Ich schlage vor, das Konzept eines homogenen Poisson-Prozesses als Ausgangspunkt zu nehmen . Dies ist ein Punktprozess auf der Linie (oft als "Zeit" -Linie gedacht und bezeichnet). Die Realisierungen sind Punktmengen. Mit ziemlicher Sicherheit enthält jede begrenzte Menge reeller Zahlen nur endlich viele Punkte.

Die grundlegenden Eigenschaften dieses Prozesses, die ich in der Analyse wiederholt verwenden werde, sind:

1. ( Unabhängigkeit ) Die Ergebnisse in zwei beliebigen disjunkten Sätzen sind unabhängig.

2. ( Homogenität ) Die erwartete Anzahl von Punkten in einem messbaren Satz$\mathcal{A}$ mit endlichem Maß $|\mathcal A|$ ist direkt proportional zu $|\mathcal{A}|$. Die Konstante der Verhältnismäßigkeit,$\lambda$ist ungleich Null.

Wie wir sehen werden, fließt alles aus diesen Eigenschaften.

Wartezeiten

Lassen Sie uns die "Wartezeiten" dieses Prozesses untersuchen. Eine Startzeit gegeben$s$ und verstrichene Dauer $t \ge 0$, Lassen $S(s, t)$ sei die Chance, dass keine Punkte dazwischen auftreten $s$ und $s+t$: das heißt, innerhalb des Intervalls $(s, s+t]$. Betrachten Sie zwei benachbarte Intervalle, eines von$r$ zu $r+s$ und ein anderer aus $r+s$ zu $r+s+t$. Durch die Unabhängigkeit ist diese Chance, dass kein Punkt in ihrer Vereinigung ist, das Produkt der Chance, dass kein Punkt in der ersten und die Chance, dass kein Punkt in der zweiten ist:

$$S(r, s+t) = S(r,s) S(r+s,t).\tag{1}$$

Durch die Homogenität bleiben diese Chancen gleich, wenn wir die Intervalle verschieben. Das heißt, für jeden$s$, $S(r, t) = S(r+s, t)$. Insbesondere dürfen wir immer nehmen$r=-s$ erhalten

$$S(r, t) = S(0,t) = S(t)$$

für alle $r$, so dass wir die explizite Abhängigkeit von fallen lassen können $r$in der Notation. Einstecken in$(1)$ gibt

$$S(s+t) = S(s)S(t).\tag{2}$$

Homogenität macht es offensichtlich $S$muss kontinuierlich sein (tatsächlich differenzierbar). Es ist bekannt, dass die einzigen Lösungen zu$(2)$sind exponentiell. Eine einfache Möglichkeit, dies zu sehen, besteht darin, den Logarithmus von zu berücksichtigen$S$ ist linear und da $S(0)=1$folglich muss es eine Anzahl geben $\kappa$ für welche

$$\log(S(t)) = \kappa t.$$

Schon seit $S$ muss mit der Zeit abnehmen, $\kappa \lt 0$. Ergo sind alle Lösungen von der Form

$$S(t) = e^{-\kappa t}.$$

Es besteht die Möglichkeit, dass innerhalb eines bestimmten Längenintervalls keine Punkte auftreten $t$.

Exponentielle Summanden

Legen Sie ein Intervall fest. Aufgrund der Homogenität können wir annehmen, dass sie bei beginnt$0$ und endet (sagen wir) bei $b$. Mit ziemlicher Sicherheit gibt es in dem Intervall nur endlich viele Punkte des Prozesses$(0,b]$und erlauben uns, sie zu bestellen $0 \lt t_1 \lt t_2 \lt \cdots \lt t_n$. $t_1$ ist eine Realisierung einer Zufallsvariablen $T_1$ regiert durch $S$: das ist,

$$\Pr(T_1 \le t) = 1 - \Pr(T_1 \gt t) = 1 - S(t) = 1 - e^{-\kappa t}.$$

$T_2$ ähnlicher Weise eine unabhängige Zufallsvariable, wobei auch von , woher$T_2 - T_1$$S$

$$\Pr(T_2 \le T_1 + t) = 1 - S(t) = 1 - e^{-\kappa t},$$

und ebenso für das verbleibende . Dies zeigt, dass genau wie in der Frage beschrieben ist: Es ist die größte Anzahl von "Exponentialsummen", die in das Intervall passen . Es ist eine Realisierung der Zufallsvariablen$T_i$$n$$(0, b]$

$$N(0,b) = \max\{i\,|\,T_1+T_2+\cdots+T_i \le b\}.$$

Poisson-Verteilung

Sei eine ganze Zahl. Wie ist die Chance, , dass das Intervall genau Punkte enthält ? Ich werde die Antwort aus der ergodischen Eigenschaft des Poisson-Prozesses ableiten , die ich für intuitiv halte: weil der Prozess innerhalb des Einheitsintervalls derselbe ist (und unabhängig von) dem Prozess innerhalb eines Einheitsintervalls können wir Eigenschaften des Prozesses ableiten, indem wir für eine einzelne Realisierung variieren und die angezeigten Punktmuster untersuchen. Insbesondere muss gleich dem zeitlichen sein, dass die Anzahl der Punkte$k\ge 0$$p_k$$k$$[0,1]$$[0,1]$$[t-1, t]$$t$ $p_k$$N(t)=N(t-1,t)$im Intervall gleich . Wir können dies formal mit der Indikatorfunktion ausdrücken, die gleich wenn ihr Argument wahr ist, und ansonsten :$[t-1,t]$$k$$I$$1$$0$

$$p_k = \lim_{x\to\infty}\frac{1}{x-1}\int_1^x I(N(t)=k) dt.$$

Das Integral ist die Gesamtdauer zwischen und wenn das Intervall genau Punkte enthält , während der Nenner des Bruchteils natürlich die insgesamt verstrichene Zeit von bis .$1$$x$$[t-1,t]$$k$$1$$x$

Dies ist eine Auftragung von für eine Realisierung eines Poisson-Prozesses mit der Rate . Weiße horizontale Linien markieren die Werte auf der vertikalen Achse, die sich von bis . Die grauen vertikalen Linien zeigen die Zeiten, zu denen Punkte in dieser Realisierung auftreten. Die gepunkteten blauen vertikalen Linien zeigen dieselben Punkte, die um eine Einheit nach rechts verschoben sind. Die durchgezogene rote Kurve zeigt beginnend bei . (Es erstreckt sich unendlich weit nach rechts, aber es konnte nicht alles gezeichnet werden!)$N(t)$$\lambda=2.5$$k=1,2,3$$0$$4$$N(t)$$t=1$

$N(1)=4$ da in der ersten Zeiteinheit vier Punkte (graue Linien) erscheinen . Das Diagramm von steigt dann jedes Mal um eine Einheit an, wenn andere graue Linie angetroffen wird, die sich von links nach rechts bewegt, da dies der Zeitpunkt ist, an dem das Intervall diesen Punkt aufnimmt. Sie fällt jedes Mal um eine Einheit, wenn eine blaue Linie angetroffen wird, da dies dasselbe ist wie der Verlust des Wertes aus dem Intervall .$[0,1]$$N(t)$$t$$[t-1,t]$$t$$t-1$$[t-1,t]$

Der , der in jeder Höhe schätzt , die Wahrscheinlichkeit, dass ein Einheitsintervall genau Punkte enthält .$k$$p_k$$k$

Angenommen, das Intervall enthält Punkte. Wenn wir es nach rechts schieben, verfolgen wir die neuen Punkte, die es aufnimmt, und die alten Punkte, die abfallen. Zwei einfache Beziehungen bestimmen alles:$[t-1, t]$$k$

1. Zwischen und (für ) beträgt die erwartete Anzahl neuer Punkte . (Das ist Homogenität.)$t$$t+dt$$dt \ge 0$$\lambda\, dt$

2. Die erwartete Anzahl verlorener Punkte ist jedoch da sich Punkte zufällig innerhalb des Intervalls befinden. (Auch dies ist auf Homogenität zurückzuführen.)$k\, dt$$k$

Fast sicher wird zu jedem Zeitpunkt höchstens ein Punkt hinzugefügt oder geht verloren. (Wenn nicht, würde es eine positive Untergrenze für die Wahrscheinlichkeit geben, dass zwei oder mehr Punkte in willkürlich kleinen Intervallen auftreten , aber da die erwartete Anzahl von Punkten in solchen Intervallen nur was wächst mit kleinem verschwindend klein - dies ist unmöglich.) Dementsprechend gibt es nur zwei Übergänge, bei denen eine Wahrscheinlichkeit ungleich Null besteht: von Punkten zu Punkten und von Punkten zu Punkten. Ihre augenblicklichen Raten sind$[t, t+dt]$$\lambda dt$$dt$$k$$k+1$$k$$k-1$

$$\tau(k\to k+1) =\lim_{dt\to 0^{+}} \frac{\lambda\, dt}{dt} = \lambda$$

und wenn ,$k \ge 1$

$$\tau(k\to k-1) = \lim_{dt\to 0^{+}} \frac{k\, dt}{dt} = k.$$

Dies könnte kompliziert aussehen, da es ein System von Differentialgleichungen für die unendlich vielen Wahrscheinlichkeiten . Da der Prozess jedoch homogen ist, bleiben diese Wahrscheinlichkeiten unverändert.$p_k$

Schauen Sie sich zuerst den Fall . Die erwartete Rate, mit der sich ändert (nämlich Null), ist die erwartete Rate der Übergänge von Zuständen mit abzüglich der erwarteten Rate der Übergänge zu Zuständen mit . Aufgrund der einfachen Beziehungen (1) und (2)$k=0$$p_0$$1\to 0$$k=1$ $0\to 1$$k=1$

$$(1)p_1 - (\lambda)p_0 = 0.$$

Dies ermöglicht es uns, in Bezug auf :$p_1$$p_0$

$$p_1 = \lambda p_0.\tag{3}$$

Betrachten Sie nun die allgemeine Situation . Es gibt vier Übergänge, die möglicherweise ändern , und alle müssen sich erwartungsgemäß ausgleichen : und verringern es, während und erhöhen . Unter erneuter Verwendung der einfachen Beziehungen (1) und (2) zur Berechnung der Momentanraten$k\gt 0$$p_k$$k\to k+1$$k\to k-1$$k+1\to k$$k-1\to k$

$$[(\lambda)p_{k-1} - (k) p_k] + [(k+1)p_{k+1} - (\lambda)p_k] = 0.$$

Wir können induktiv annehmen, dass der erste Term in Klammern ausgeglichen wird (was wir gerade für den Fall ), wodurch der zweite Term in Klammern automatisch ausgeglichen wird und die Lösung leicht gegeben wird$k=0$

$$p_{k+1} = \frac{\lambda}{k+1}p_k.\tag{4}$$

Die Formeln und bestimmen alle in Bezug auf : Die Lösung ist$(3)$$(4)$$p_k$$p_0$

$$p_k = p_0\frac{\lambda^k}{k!}.\tag{5}$$

(Beweis: Diese Formel erfüllt die Anfangsbedingung sowie die Rekursion .)$(3)$$(4)$

Die Verbindung zwischen den Parametern Exponential und Poisson

Es gibt zwei Möglichkeiten, zu finden . $p_0$Erstens können wir das ausnutzen, was wir zuvor über exponentielle Wartezeiten gelernt haben: ist die Wahrscheinlichkeit, dass eine exponentielle Variable des Parameters überschreitet . Das ist$p_0$$\kappa$ $1$

$$p_0 = e^{-\kappa}.\tag{6}$$

Das zweite ist die Tatsache, dass sich die Wahrscheinlichkeiten zu einer Einheit summieren, woher

$$1 = \sum_{k=0}^\infty p_0\frac{\lambda^k}{k!} = p_0\sum_{k=0}^\infty \frac{\lambda^k}{k!} = p_0 e^{\lambda}.$$

Deshalb

$$p_0 = e^{-\lambda}\tag{7}$$

ist der eindeutige Wert, der funktioniert. Folglich ist jetzt vollständig explizit:$(5)$

$$p_k = e^{-\lambda} \frac{\lambda^k}{k!}.$$

Dies ist die Poisson-Verteilung .

Das Gleichsetzen von und zeigt dies$(6)$$(7)$

$$\kappa = \lambda.$$

Dies bezieht den Parameter der exponentiellen Wartezeiten explizit auf den Parameter der Poisson-Verteilung.

Simulation zum besseren Verständnis

Die erste Abbildung zeigte keine ausreichend lange Zeitspanne, um den genau abzuschätzen . Betrachten Sie jedoch einen Teil einer anderen Erkenntnis von , die hundertmal länger ist:$p_k$$N(t)$

(Die vertikalen Linien werden nicht mehr gezeichnet, weil sie so zahlreich sind.)

Hier sind die Zeitanteile für jedes . Darunter befinden sich die Proportionen für die Poisson -Verteilung:$k$$(2.5)$

         0      1      2      3      4      5      6      7      8     9
y   0.0745 0.2068 0.2637 0.2215 0.1290 0.0660 0.0235 0.0128 0.0016 6e-04
fit 0.0821 0.2052 0.2565 0.2138 0.1336 0.0668 0.0278 0.0099 0.0031 9e-04

Die Übereinstimmung ist offensichtlich - wenn auch immer noch unvollkommen, da dies nur ein kurzer erster Abschnitt der Realisierung ist.

---

Hier ist der RCode, mit dem die Figuren erstellt wurden. Experimentieren Sie mit lambdaund num ein Gefühl für diese Analyse zu bekommen.

lambda <- 2.5               # Poisson intensity
n <- 1000                   # Number of points to realize
x <- cumsum(rexp(n, lambda))# Accumulate the waiting times

# Compute the proportion of times for each `k` and compare to the Poisson distribution.
f <- ecdf(x)                # The ECDF does the work of computing N(t)
b <- max(x)
u <- seq(1, b, length.out=10*n)
y <- table(round(n*(f(u) - f(u-1)), 4))
y <- y / sum(y)
fit <- dpois(as.numeric(names(y)), lambda)
round(rbind(y, fit), 4)

# Plot N(t)
y.max <- max(as.numeric(names(y)))
curve(ifelse(x >= 1 & x <= b, n*(f(x) - f(x-1)), NA), 0,b, ylim=c(0, y.max*1.01),
      n=max(10001, 10*n), xlab="t", ylab="", col="#00000080",
      yaxp=c(0, y.max, y.max), bty="n", yaxt="n", yaxs="i")
rect(0, 0, b, y.max, col="#f4f4f4", border=NA)
abline(h=0:y.max, col="White")
if (n < 1000) {
  abline(v=x, lty=1, col="Gray")
  abline(v=x[x <= b-1]+1, lty=3, col="Blue")
}
curve(ifelse(x >= 1 & x <= b, n*(f(x) - f(x-1)), NA), add=TRUE,
      n=max(10001, 10*n), lwd=2, col="#802020")