Wie macht der Nachweis der Ablehnungsstichprobe Sinn?

Ich nehme an einem Kurs über Monte-Carlo-Methoden teil und wir haben in der letzten Vorlesung die Rejection Sampling-Methode (oder Accept-Reject Sampling-Methode) gelernt. Es gibt viele Ressourcen im Web, die den Beweis dieser Methode zeigen, aber irgendwie bin ich nicht davon überzeugt.

In der Ablehnungsabtastung haben wir also eine Verteilung der schwer abzutasten ist. Wir wählen eine einfach zu beprobende Verteilung und finden einen Koeffizienten so dass . Dann probieren wir aus und für jede Ziehung auch ein aus einer Standardgleichverteilung . $f(x)$ $g(x)$ $c$ $f(x) \leq cg(x)$ $g(x)$ $x_i$ $u$ $U(u|0,1)$

Das Beispiel wird akzeptiert, wenn es und andernfalls abgelehnt. $x_i$ $cg(x_i)u \leq f(x_i)$

Die Beweise, auf die ich gestoßen bin, zeigen normalerweise nur, dass und hören dort auf. $p(x|Accept) = f(x)$

Was ich über diesen Prozess denke, ist, dass wir eine Folge von Variablen und ein Paar haben, das unserer i-ten Stichprobe ( ) entspricht und ob es akzeptiert wird ( ). Wir wissen, dass jedes Paar unabhängig voneinander ist, so dass: $x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n$ $x_i,Accept_i$ $x_i$ $Accept_i$ $x_i,Accept_i$

$P(x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n) = \prod\limits_{i=1}^n P(x_i,Accept_i)$

Für ein Paar wissen wir, dass und . Wir können leicht berechnen, aber ich verstehe nicht, wie es als Beweis ausreicht. Wir müssen zeigen, dass der Algorithmus funktioniert, daher denke ich, dass ein Beweis zeigen sollte, dass die offizielle Verteilung der akzeptierten Stichproben gegen als konvergiert . Ich meine, wobei die Anzahl aller akzeptierten und abgelehnten Proben ist: $(x_i,Accept_i)$ $P(x_i) = g(x_i)$ $P(Accept_i|x_i) = \frac{f(x_i)}{cg(x_i)}$ $p(x_i|Accept_i)$ $f(x)$ $n\rightarrow\infty$ $n$

$\frac{Number \hspace{1mm} of \hspace{1mm} samples \hspace{1mm} with \hspace{1mm} (A \leq x_i \leq B)}{Number \hspace{1mm} of \hspace{1mm} accepted \hspace{1mm} samples} \rightarrow \int_A^B f(x)dx$ als . $n\rightarrow\infty$

Bin ich falsch mit diesem Gedankenmuster? Oder gibt es einen Zusammenhang zwischen dem gemeinsamen Beweis des Algorithmus und diesem?

Danke im Voraus

sampling monte-carlo rejection-sampling

— Ufuk Can Bicici
quelle

Antworten:

Sie sollten sich den Algorithmus so vorstellen, dass er Zeichnungen aus einer Zufallsvariablen erzeugt. Um zu zeigen, dass der Algorithmus funktioniert, reicht es aus, zu zeigen, dass der Algorithmus aus der Zufallsvariablen zeichnet, die Sie möchten.

Sei und skalare Zufallsvariablen mit pdfs bzw. , wobei etwas ist, von dem wir bereits wissen, wie man es . Wir können auch wissen, dass wir durch wobei . $X$ $Y$ $f_X$ $f_Y$ $Y$ $f_X$ $Mf_Y$ $M\ge1$

Wir bilden nun eine neue Zufallsvariable wobei , dies nimmt den Wert mit der Wahrscheinlichkeit und sonst . Dies stellt den Algorithmus dar, der ein Ziehen von "akzeptiert" . $A$ $A | y \sim \text{Bernoulli } \left (\frac{f_X(y)}{Mf_Y(y)}\right )$ $1$ $\frac{f_X(y)}{Mf_Y(y)}$ $0$ $Y$

Jetzt führen wir den Algorithmus aus und sammeln alle Ziehungen von , die akzeptiert werden. Nennen wir diese Zufallsvariable . $Y$ $Z = Y|A=1$

Um zu zeigen, dass , müssen wir für jedes Ereignis zeigen, dass . $Z \equiv X$ $E$ $P(Z \in E) =P(X \in E)$

Versuchen wir es also zuerst mit der Bayes-Regel:

$P(Z \in E) = P(Y \in E | A =1) = \frac{P(Y \in E \& A=1)}{P(A=1)}$ ,

und den oberen Teil schreiben wir als

\begin{aligned} P (Y \in E & A = 1) & = \int_{E} f_{Y, A} (y, 1) d y \\ = \int_{E} f_{A | Y} (1, y) f_{Y} (y) d y = \int_{E} f_{Y} (y) \frac{f_{X} (y)}{M f_{Y} (y)} d y = \frac{P (X \in E)}{M} . \end{aligned}

$\begin{align*}P(Y \in E \& A=1) &= \int_E f_{Y, A}(y,1) \, dy \\ &= \int_E f_{A|Y}(1,y)f_Y(y) \, dy =\int_E f_Y(y) \frac{f_X(y)}{Mf_Y(y)} \, dy =\frac{P(X \in E)}{M}.\end{align*}$

Und dann ist der untere Teil einfach

$P(A=1) = \int_{-\infty}^{\infty}f_{Y,A}(y,1) \, dy = \frac{1}{M}$ ,

Nach der gleichen Überlegung wie oben wird . $E=(-\infty, +\infty)$

Und diese kombinieren zu geben , das ist , was wir wollten, . $P(X \in E)$ $Z \equiv X$

So funktioniert der Algorithmus, aber am Ende Ihrer Frage scheinen Sie sich Sorgen über eine allgemeinere Idee zu machen. Wann konvergiert eine empirische Verteilung gegen die Verteilung, aus der die Stichprobe stammt? Dies ist ein allgemeines Phänomen in Bezug auf Stichproben, wenn ich Sie richtig verstehe.

In diesem Fall lassen alle Zufallsvariablen iid mit Verteilung . Dann für jedes Ereignis , hat Erwartung durch die Linearität des Erwartungswerts . $X_1, \dots, X_n$ $\equiv X$ $E$ $\frac{\sum_{i=1}^n1_{X_i \in E}}{n}$ $P(X \in E)$

Darüber hinaus könnten Sie bei geeigneten Annahmen das starke Gesetz der großen Zahlen verwenden, um zu zeigen, dass die empirische Wahrscheinlichkeit fast sicher gegen die wahre Wahrscheinlichkeit konvergiert.

— Harri
quelle

Danke für die Antwort. Können Sie klarstellen, wie ich anhand des Gesetzes der großen Zahlen zeigen kann, dass die emprische Verteilung zur Zielverteilung konvergiert? Genau das versuche ich in diesem Fall zu zeigen.

— Ufuk Can Bicici

Glivenko-Cantelli: www2.imperial.ac.uk/~das01/MyWeb/M3S3/Handouts/…

— Zen

@Harri Was mich stört, ist die Tatsache, dass wir die Zufallsvariable lernen, die die Akzeptanz der Ziehung anzeigt ( ), nachdem wir den Wert der tatsächlichen Variablen gelernt haben. Wir beobachten die Variablen gemäß der Sequenz . Wenn wir also die Variable beobachten , wissen wir über das System und und da unabhängig ist von ihnen verarbeiten wir zuerst , dann nicht umgekehrt.

A = 1

$A=1$

Y_{1}, A_{1}, Y_{2}, A_{2}, . . ., Y_{n}, A_{n}

$Y_1,A_1,Y_2,A_2,...,Y_n,A_n$

Y_{2}

$Y_2$

Y_{1}

$Y_1$

A_{1}

$A_1$

Y_{2}

$Y_2$

P (Y_{2})

$P(Y_2)$

P (A_{2} | Y_{2})

$P(A_2|Y_2)$

— Ufuk Can Bicici

Könnten Sie noch etwas darüber sagen, warum die Reihenfolge, in der Sie und dann Sie stört?

P (Y_{2})

$P(Y_2)$

P (A_{2} | Y_{2})

$P(A_2|Y_2)$

— Harri

Beachten Sie zunächst, dass eine vollständige Prozedur der Ablehnungsstichprobenmethode nur eine einzige Zufallsvariable erzeugt . Wenn etwas akzeptiert wird, stoppt die Prozedur und es gibt kein mehr. Wenn Sie mehrere Zufallsvariablen möchten, wiederholen Sie den Vorgang einfach mehrmals. $x_i$ $x_{i+1}$

In einigen Lehrbüchern bezeichnen sie das Ereignis der Akzeptanz durch und berechnen die Wahrscheinlichkeit $A$

\begin{aligned} P (A) = & \int_{- \infty}^{\infty} d x \int_{0}^{\frac{f (x)}{c g (x)}} g (x) d u \\ = & \int_{- \infty}^{\infty} \frac{1}{c} f (x) d x \\ = & \frac{1}{c} . \end{aligned}

$\begin{aligned} P(A) =& \int_{-\infty}^{\infty}dx\int_0^{\frac{f(x)}{cg(x)}}g(x)du \\ =& \int_{-\infty}^{\infty}\frac{1}{c}f(x)dx \\ =& \frac{1}{c}. \end{aligned}$

Und

\begin{aligned} f_{X} (x | A) = & \frac{f_{X} (x) \cdot P (A | x)}{P (A)} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_X(x|A) =& \frac{f_X(x) \cdot P(A|x)}{P(A)}\\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$

Das Verwirrende ist, dass die Akzeptanz hier die Akzeptanz einer einzelnen Stichprobe von zu sein scheint , aber die gesamte Prozedur kann mehrere ablehnen . $A$ $x_i$ $x_i$

Ja, ein strengerer Beweis sollte die Wahrscheinlichkeit der Akzeptanz bei verschiedenen Schritten berücksichtigen. Let die Bezeichnung - ten Probe, die Wahrscheinlichkeitsdichtefunktion von bezeichnen , bezeichnen die - te Akzeptanz und bezeichnen die letzte akzeptierte Wert. Dann wird die Wahrscheinlichkeitsdichtefunktion von ist ist und ist wie zuvor berechnet. Anmerkung ist $X_i$ $i$ $f_{X_i}$ $X_i$ $A_i$ $i$ $X_\infty$ $X_\infty$

f_{X_{\infty}} (x) = P (A_{1}) f_{X_{1}} (x | A_{1}) + P (A_{2}) f_{X_{2}} (x | A_{2}) + \dots .

$f_{X_\infty}(x) = P(A_1) f_{X_1}(x|A_1) + P(A_2) f_{X_2}(x|A_2) + \dots.$

P (A_{1})

$P(A_1)$

\frac{1}{c}

$\frac{1}{c}$

f_{X_{1}} (x | A_{1})

$f_{X_1}(x|A_1)$

f (x)

$f(x)$

P (A_{2})

$P(A_2)$

(1 - \frac{1}{c}) \frac{1}{c}

$\left(1-\frac{1}{c}\right)\frac{1}{c}$ wobei die Wahrscheinlichkeit der Ablehnung von da nur wenn abgelehnt wird Wir haben die Chance, einen zu wählen .

1 - \frac{1}{c}

$1-\frac{1}{c}$

X_{1}

$X_1$

X_{1}

$X_1$

X_{2}

$X_2$

Und ist auch da der zweite Schritt nicht von vorherigen Schritten beeinflusst wird, sollte seine Wahrscheinlichkeit dieselbe sein wie die des ersten Schritts. Wenn Sie diese Erklärung nicht überzeugt, können wir sie auch konsequent ausarbeiten. Seien Sie vorsichtig, dass nicht definiert ist, wenn akzeptiert wird (oder Sie können es als willkürliche Zahl definieren, wenn akzeptiert wird, wenn ein undefinierter Wert Sie unangenehm macht). Für Wahrscheinlichkeiten in Bezug auf nur bedingte Wahrscheinlichkeiten mit oder Teilmengen von macht Sinn. Jetzt $f_{X_2}(x|A_2)$ $f(x)$ $X_2$ $X_1$ $X_1$ $X_2$ $A_1^c$ $A_1^c$

\begin{aligned} f_{X_{2}} (x | A_{2}) = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2})} \\ = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{1}^{c}) P (A_{2} | A_{1}^{c})} \\ = & \frac{f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2} | A_{1}^{c})} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_2}(x|A_2) =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2)} \\ =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_1^c)P(A_2|A_1^c)} \\ =& \frac{f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2|A_1^c)} \\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$ Also Das ist das gewünschte Ergebnis. Hinweis = 1 hat eine intuitive Bedeutung, dh schließlich wird in einem Schritt eine Probe akzeptiert .

\begin{aligned} f_{X_{\infty}} (x) = & P (A_{1}) f (x) + P (A_{2}) f (x) + \dots \\ = & (P (A_{1}) + P (A_{2}) + \dots) f (x) \\ = & (\frac{1}{c} + (1 - \frac{1}{c}) \frac{1}{c} + {(1 - \frac{1}{c})}^{2} \frac{1}{c} + \dots) f (x) \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_\infty}(x) =& P(A_1) f(x) + P(A_2) f(x) + \dots \\ =& (P(A_1) + P(A_2) + \dots) f(x) \\ =& \left(\frac{1}{c} + \left(1-\frac{1}{c}\right)\frac{1}{c} + \left(1-\frac{1}{c}\right)^2\frac{1}{c} + \dots\right) f(x) \\ =& f(x). \end{aligned}$

P (A_{1}) + P (A_{2}) + \dots

$P(A_1) + P(A_2) + \dots$

i

$i$

— Cosyn
quelle